① 安装手册 + 专题十五        → 平台、模型、知识库、新 Agent 能问能答
② Langfuse 部署 + 连接       → 每轮问答能在 Langfuse 点开 Trace
③ 专题十三 Rerank            → 命中测试排序变准；对话引用关键数字
④ 按症状查排障专题 / SOP     → 出问题再查，不要改主线正文
⑤ 作业 1                     → 第一个 HTTP 工具 Agent
⑥ 作业 2                     → Workflow 意图路由（知识库 + HTTP + 模板）

python tools/sync_doc_code.py --all   # 展开本文等文档里的完整代码嵌入
python gen_all_html.py                # 批量 md → html
python gen_index_html.py              # 更新索引页

                    ┌─────────────────────────────────────────┐
                    │  用户浏览器 / 业务方                      │
                    └──────────────────┬──────────────────────┘
                                       │ HTTP
                    ┌──────────────────▼──────────────────────┐
                    │  192.168.110.207                         │
                    │  ┌─────────┐  ┌──────────┐  ┌──────────┐  │
                    │  │ Dify    │  │Langfuse  │  │Xinference│  │
                    │  │ 1.16.1  │  │ :3000    │  │ :9997    │  │
                    │  │ :80/443 │  │          │  │ CPU 推理 │  │
                    │  └────┬────┘  └────▲─────┘  └────┬─────┘  │
                    │       │            │ Trace         │        │
                    │       │     bge-m3 / rerank        │        │
                    │       │                            │        │
                    │  ┌────▼────┐  Weaviate(:8088中继)  │        │
                    │  │ Postgres│◄──────────────────────┘        │
                    │  │ Redis   │                                 │
                    │  └─────────┘                                 │
                    └──────────────────┬──────────────────────────┘
                                       │ OpenAI 兼容 API
                    ┌──────────────────▼──────────────────────┐
                    │  116.62.10.183（GPU 机）                   │
                    │  vLLM Qwen3.6-27B :8000                   │
                    │  H20 96GB，与 mxh_env/mxh_live 共享        │
                    │  max-num-seqs=8, gpu-mem-util=0.75        │
                    └──────────────────────────────────────────┘

【阶段 0】用户在新对话输入问句
    │
    ▼
【阶段 1】docker-api-1 接收
    POST /console/api/agent/<agent_id>/chat-messages
    读取 agent_config_snapshots（不是知识库页的实时配置）
    │
    ▼
【阶段 2】docker-agent_backend-1 编排
    加载快照：model / prompt / knowledge.sets[].retrieval / tools
    │
    ▼
【阶段 3】第一次 LLM 调用（116 vLLM）
    模型决定：是否调用 knowledge_base_search
    界面出现「思考中」或工具框
    │
    ▼
【阶段 4】知识检索（207 本机）
    4a. Embedding：Xinference bge-m3 → 向量
    4b. Weaviate：Top-N 召回（经 8088 中继，避免 IPv6 偶发失败）
    4c. Rerank（若快照开启）：Xinference bge-reranker-v2-m3 重排
    4d. 取 Top-K 片段写入 Prompt
    │   ※ 界面可能仍显示 knowledge_base_search，但 4 可能 2 秒就结束
    ▼
【阶段 5】第二次 LLM 调用（116 vLLM）
    Prompt = system + 历史 + Top-K 制度片段 + 用户问句
    Qwen3.6 先 thinking（计入 max_tokens），再输出正文
    │   ※ thinking 吃满 max_tokens → 空泡 / token limit 8192（专题十二）
    ▼
【阶段 6】写 messages 表 + 可选 Langfuse
    status=normal / error
    Celery worker 推 Trace（若已配置 trace-config）

工作区「设置 → 模型供应商」     ← Qwen / bge-m3 / Rerank 凭据、默认模型
        │
知识库页 retrieval_model       ← 命中测试用这套
        │
Agent 快照 + 草稿              ← 对话真正用的 Top-K / Rerank / max_tokens / 绑库

用户：「帮我看看 gpu-server-01 的状态」
    │
    ▼
第一次 LLM → 决定调用 getServerStatus(server_name=...)
    │
    ▼
Dify API 工具层（OpenAPI 导入）
    GET http://192.168.110.207:8777/server/status?server_name=gpu-server-01
    （经 ssrf_proxy 出网）
    │
    ▼
FastAPI 模拟服务返回 JSON
    │
    ▼
第二次 LLM → 按 system_prompt 格式化为中文汇报

用户发问 → Dify 对话完成
    │
    ▼
docker-worker-1（Celery 队列 ops_trace）
    读 apps.tracing + trace_app_config
    │
    ▼
POST Langfuse /api/public/ingestion（需 dual 模式）
    │
    ▼
langfuse-clickhouse 存 Trace / Generation / Token

# -*- coding: utf-8 -*-
"""各专题脚本共用的环境常量。换机器/换应用时只改这一处。"""

# Dify 控制台
DIFY_EMAIL = "38205036@qq.com"
DIFY_PASSWORD = "Difyai123456"
DIFY_BASE = "http://192.168.110.207"

# 播城行政问答（专题十三 / 十四 / 十五 / Langfuse 等）
APP_ID = "40e95fd3-e7f5-44f2-a03b-dc3e60413540"
AGENT_ID = "01a012e7-bed3-7574-b0d1-a5cc79a0d3de"
SNAP_ID = "01a0135c-320e-79dc-97a0-94da9b904c13"
DRAFT_ID = "01a012e7-bf60-7673-a894-64551d984a23"
DS_ID = "ee2495bf-c370-49d1-8268-10c51f650fa6"
DS_NAME = "播城内部行政管理知识库"

# Xinference
XF_KEY = "xf-K8H3LiS27H4188XdOyWJj74MWMOlIR9tZbiybDbxbSas7eAI"
XF_URL = "http://192.168.110.207:9997"
XF_ADMIN_USER = "admin"
XF_ADMIN_PASS = "admin1234"
XF_CONTAINER = "xinference"

# 模型
EMBED_MODEL = "bge-m3"
RERANK_MODEL = "bge-reranker-v2-m3"
XINFERENCE_PROVIDER = "langgenius/xinference/xinference"

# vLLM / Qwen（专题一 / 手册 / 十五）
VLLM_BASE = "http://116.62.10.183:8000/v1"
VLLM_KEY = "123456"
QWEN_MODEL = "qwen3.6-27b"
OPENAI_PROVIDER = "langgenius/openai/openai"
QWEN_CTX = 64000
MAX_TOKENS = 32768

# Langfuse
LANGFUSE_PK = "pk-lf-84a76d89-b6b4-4943-b4ea-2dee48d4cda7"
LANGFUSE_SK = "sk-lf-24aa6d73-ed36-4447-9eb6-3ebd446fb298"
LANGFUSE_URL = "http://192.168.110.207:3000"
LANGFUSE_HEALTH = "http://192.168.110.207:3000/api/public/health"

# GPU 机 Xinference（路径 B 时用）
XF_GPU_URL = "http://116.62.10.183:9997"
XF_GPU_CONTAINER = "xinference-gpu"

# Docker 容器名（207）
PG_CONTAINER = "docker-db_postgres-1"
PLUGIN_CONTAINER = "docker-plugin_daemon-1"
DIFY_WORKER = "docker-worker-1"
DIFY_API_CTR = "docker-api-1"
DIFY_DOCKER_DIR = "/dify/dify-main/docker"

# 专题十五 · 新建应用时的工作名（按需改）
NEW_APP_NAME = "播城行政问答智能体"

# 作业 1 · 第一个 Agent 工具调用
SERVER_STATUS_PORT = 8777
SERVER_STATUS_BASE = "http://192.168.110.207:8777"
SERVER_STATUS_PROVIDER = "server_status"
SERVER_STATUS_PROVIDER_ID = "021a4445-098d-4821-81fe-ff0ebc660ecc"
HOMEWORK1_APP_NAME = "运维巡检 Agent"
HOMEWORK1_PROBE_QUERY = "帮我看看 gpu-server-01 的状态"
HOMEWORK1_APP_ID = "d00d0382-ca3f-4cf2-9cc9-0cb5aed9404d"
HOMEWORK1_AGENT_ID = "01a0189c-7d7e-742f-83d1-74c5c16878da"
HOMEWORK1_SNAP_ID = "01a0189c-7d82-777e-9f1a-8af87e14ae38"
HOMEWORK1_DRAFT_ID = "01a0189d-44b0-7191-9b51-44b257b97459"

# 作业 2 · 客服意图路由 Workflow
TICKET_API_PORT = 8778
TICKET_API_BASE = "http://192.168.110.207:8778"
HOMEWORK2_APP_NAME = "客服意图路由工作流"
HOMEWORK2_APP_ID = "f0e82c66-e324-4df7-a1fe-44d6ce6ec7cf"
HOMEWORK2_PROBE_KB = "怎么请假"
HOMEWORK2_PROBE_TICKET = "帮我报修设备"
HOMEWORK2_PROBE_HUMAN = "我要投诉"

# 验收用问句
PROBE_QUERY_KB = "管理人员需要钉钉打卡吗"
PROBE_QUERY_OVERTIME = "法定假日加班的制度是什么，加班费怎么算？"
PROBE_QUERY_LANGFUSE = "请用一两句话说明公司请假流程，这是 Langfuse 完整链路验收。"

用户问句
  → Embedding 召回 Top-N（如 20）
  → Rerank 交叉编码器重打分
  → 取 Top-K（如 5）进 Prompt
  → LLM 生成

命中测试经常 >10s？
  ├─ 是 → 优先 Rerank 上 GPU
  └─ 否 → 继续观察

高峰同时提问 >15 人？
  ├─ 是 → Embedding + Rerank 都应 GPU；vLLM 加 max-num-seqs 或加卡
  └─ 否 → CPU 仍可维持

116 上 nvidia-smi 有余量（>10GB 空闲）？
  ├─ 是 → 路径 A：本机 Xinference 加 --gpus all
  └─ 否 → 路径 B：独立 GPU 机或降 vLLM 显存占用

docker inspect xinference --format '{{json .HostConfig.DeviceRequests}}'
docker exec xinference nvidia-smi

docker exec xinference bash -lc '
xinference login -e http://127.0.0.1:9997 -u admin -p admin1234
xinference launch -e http://127.0.0.1:9997 -n bge-m3 -t embedding -u bge-m3 --n-gpu auto
xinference launch -e http://127.0.0.1:9997 -n bge-reranker-v2-m3 -t rerank -u bge-reranker-v2-m3 --n-gpu auto
'

# 116 GPU 机
nvidia-smi
curl -s http://116.62.10.183:8000/metrics | grep vllm_num_requests
docker logs <vllm容器> 2>&1 | tail -50

#!/usr/bin/env python3
# -*- coding: utf-8 -*-
"""专题十五 · 步骤 0：创建前检查 LLM / Embedding / Rerank / 知识库 / 外部探针。"""
from __future__ import annotations

import sys

import _bootstrap  # noqa: F401
import _config as C
from dify_api import Dify, pp


def main() -> int:
    d = Dify(C.DIFY_EMAIL, C.DIFY_PASSWORD)
    try:
        d.login()
        pp("llm", d.get("/workspaces/current/models/model-types/llm"))
        pp("emb", d.get("/workspaces/current/models/model-types/text-embedding"))
        pp("rerank", d.get("/workspaces/current/models/model-types/rerank"))
        pp("datasets", d.get("/datasets?page=1&limit=20"))

        print("\n=== vLLM ===")
        out, err = d.sh(
            "curl -s -m 10 -H 'Authorization: Bearer %s' %s/models"
            % (C.VLLM_KEY, C.VLLM_BASE)
        )
        print(out or err)

        print("\n=== Xinference ===")
        out2, err2 = d.sh(
            "curl -s -m 15 -H 'Authorization: Bearer %s' %s/v1/models"
            % (C.XF_KEY, C.XF_URL)
        )
        print(out2 or err2)
        return 0
    finally:
        d.close()


if __name__ == "__main__":
    sys.exit(main())

#!/usr/bin/env python3
# -*- coding: utf-8 -*-
"""专题十四 · 步骤 3：分层探针（Xinference / Rerank / vLLM / 最短对话）。"""
from __future__ import annotations

import json
import sys

import _bootstrap  # noqa: F401
import _config as C
from dify_api import Dify


def main() -> int:
    d = Dify(C.DIFY_EMAIL, C.DIFY_PASSWORD)
    try:
        probes = [
            ("1) Xinference /v1/models", (
                "curl -s -m 15 -H 'Authorization: Bearer %s' %s/v1/models"
                % (C.XF_KEY, C.XF_URL)
            )),
            ("2) Xinference /v1/rerank", (
                "curl -s -m 30 -H 'Authorization: Bearer %s' -H 'Content-Type: application/json' "
                "-d '{\"model\":\"%s\",\"query\":\"%s\",\"documents\":[\"管理人员应通过钉钉打卡。\",\"班车时间以通知为准。\"]}' "
                "%s/v1/rerank"
                % (C.XF_KEY, C.RERANK_MODEL, C.PROBE_QUERY_KB, C.XF_URL)
            )),
            ("3) vLLM /v1/models", (
                "curl -s -m 10 -H 'Authorization: Bearer %s' %s/models"
                % (C.VLLM_KEY, C.VLLM_BASE)
            )),
            ("4) vLLM 最短对话", (
                "curl -s -m 60 -X POST %s/chat/completions "
                "-H 'Authorization: Bearer %s' -H 'Content-Type: application/json' "
                "-d '{\"model\":\"%s\",\"messages\":[{\"role\":\"user\",\"content\":\"只回：pong\"}],\"max_tokens\":16}'"
                % (C.VLLM_BASE, C.VLLM_KEY, C.QWEN_MODEL)
            )),
        ]
        for title, cmd in probes:
            print("\n=== %s ===" % title)
            out, err = d.sh(cmd)
            text = out or err
            print(text[:1500] if len(text) > 1500 else text)
        return 0
    finally:
        d.close()


if __name__ == "__main__":
    sys.exit(main())

#!/usr/bin/env python3
# -*- coding: utf-8 -*-
"""作业 1 · 步骤 5：对话验收 —— 问 gpu-server-01 状态，应触发工具并返回指标。"""
from __future__ import annotations

import sys

import _bootstrap  # noqa: F401
import _config as C
from dify_api import Dify, pp


def resolve_agent_id(d: Dify) -> str:
    aid = getattr(C, "HOMEWORK1_AGENT_ID", "") or ""
    if aid:
        return aid
    sql = (
        "SELECT a.id FROM apps ap JOIN agents a ON a.app_id=ap.id "
        "WHERE ap.name='%s' ORDER BY ap.created_at DESC LIMIT 1;"
        % C.HOMEWORK1_APP_NAME.replace("'", "''")
    )
    out, err = d.sh(
        'docker exec %s psql -U postgres -d dify -t -A -c "%s"'
        % (C.PG_CONTAINER, sql)
    )
    aid = (out or "").strip()
    if not aid:
        raise RuntimeError("找不到 Agent: %s %s" % (out, err))
    return aid


def main() -> int:
    d = Dify(C.DIFY_EMAIL, C.DIFY_PASSWORD)
    try:
        d.login()
        agent_id = resolve_agent_id(d)
        print("agent_id", agent_id)
        r = d.post(
            "/agent/%s/chat-messages" % agent_id,
            body={
                "inputs": {},
                "query": C.HOMEWORK1_PROBE_QUERY,
                "response_mode": "streaming",
                "files": [],
                "conversation_id": "",
            },
            extra="-m 420 --max-time 420",
            t=450,
        )
        pp("chat", r, limit=4000)
        text = r.get("text") or ""
        ok_markers = ("45%", "62%", "78%", "18.2", "gpu-server-01", "getServerStatus")
        hits = [m for m in ok_markers if m in text]
        print("\n匹配到的验收关键词:", hits)
        if r.get("code") not in ("200",) or len(hits) < 2:
            print("\n[FAIL] 未看到工具返回的模拟指标，请检查工具挂载与 SSRF 出网。")
            return 1
        print("\n[PASS] Agent 已调用工具并返回状态信息。")
        return 0
    finally:
        d.close()


if __name__ == "__main__":
    sys.exit(main())

#!/usr/bin/env python3
# -*- coding: utf-8 -*-
"""作业 1 · 模拟「查询服务器状态」HTTP 工具（FastAPI）。

启动（207 上）：
  pip3 install fastapi uvicorn -q
  uvicorn 作业1_server_status_api:app --host 0.0.0.0 --port 8777

或：bash /opt/workbuddy/scripts_bash_cursor/作业1_带工具调用的Agent_服务器状态/作业1_启动_server_status.sh
"""
from __future__ import annotations

from fastapi import FastAPI

app = FastAPI(
    title="Server Status API",
    version="1.0.0",
    description="Dify Agent 作业 1：模拟查询服务器 CPU / 内存 / GPU 状态",
)


@app.get("/server/status", operation_id="getServerStatus", summary="查询服务器状态")
def get_status(server_name: str) -> dict[str, str]:
    """根据 server_name 返回模拟监控指标（本服务不连真实监控）。"""
    return {
        "server": server_name,
        "cpu": "45%",
        "memory": "62%",
        "gpu_util": "78%",
        "gpu_memory": "18.2/24 GB",
    }


@app.get("/health")
def health() -> dict[str, str]:
    return {"status": "ok"}


if __name__ == "__main__":
    import uvicorn

    uvicorn.run("作业1_server_status_api:app", host="0.0.0.0", port=8777, reload=False)

#!/usr/bin/env bash
set -euo pipefail

docker exec xinference bash -lc '
xinference login -e http://127.0.0.1:9997 --username admin --password admin1234
xinference launch -e http://127.0.0.1:9997 -n bge-m3 -t embedding -u bge-m3
xinference launch -e http://127.0.0.1:9997 -n bge-reranker-v2-m3 -t rerank -u bge-reranker-v2-m3
'

openapi: 3.0.0
info:
  title: Server Status API
  version: 1.0.0
  description: 作业 1 · 模拟查询服务器 CPU / 内存 / GPU 状态
servers:
  - url: http://192.168.110.207:8777
paths:
  /server/status:
    get:
      operationId: getServerStatus
      summary: 查询服务器状态
      description: 根据服务器名称返回 CPU、内存、GPU 利用率等模拟指标
      parameters:
        - name: server_name
          in: query
          required: true
          description: 服务器名称，例如 gpu-server-01
          schema:
            type: string
      responses:
        "200":
          description: 成功
          content:
            application/json:
              schema:
                type: object
                properties:
                  server:
                    type: string
                  cpu:
                    type: string
                  memory:
                    type: string
                  gpu_util:
                    type: string
                  gpu_memory:
                    type: string