平台服务汇总 · 入口、凭据与架构

环境锚点：应用主机 192.168.110.207 + GPU 主机 116.62.10.183

凭据来源：scripts_cursor/_config.py、各部署专题（内网学习环境，请控制访问权限）

HTML：docs/html_cursor/平台服务汇总_入口与架构_cursor.html

1. 架构总览

flowchart TB
  subgraph Users["使用者"]
    U1[浏览器 · 运维/业务]
    U2[API / SDK / Dify Agent]
  end

  subgraph EDGE["总入口 · 207"]
    HGW["Higress Gateway<br/>:18080 / :18443"]
    HCON["Higress Console<br/>:8001"]
  end

  subgraph APP207["应用主机 192.168.110.207"]
    PORTAL["服务入口页<br/>:8090"]
    DIFY["Dify 控制台<br/>:80"]
    LLM["LiteLLM Proxy<br/>:4000"]
    XF["Xinference<br/>:9997"]
    WV["Weaviate 中继<br/>:8088"]
    LF["Langfuse<br/>:3000"]
    PROM["Prometheus<br/>:9092"]
    GRAF["Grafana<br/>:3001"]
    SLA["SLA Exporter<br/>:8781"]
    HW["作业 API<br/>:8777–8780"]
  end

  subgraph GPU116["GPU 主机 116.62.10.183"]
    VLLM["vLLM Qwen3.6-27B<br/>:8000"]
  end

  U1 --> HGW
  U1 --> PORTAL
  U1 --> DIFY
  U1 --> LF
  U1 --> HCON
  U1 --> GRAF
  U2 --> HGW
  U2 --> LLM
  U2 --> DIFY

  HGW -->|/llm/v1| LLM
  HGW -->|/xf/v1| XF
  HGW -->|Host dify.ai.local| DIFY

  DIFY --> LLM
  DIFY --> XF
  DIFY --> WV
  DIFY -.->|Tracing| LF

  LLM --> VLLM
  LLM --> XF

  SLA --> DIFY
  SLA --> LF
  SLA --> LLM
  SLA --> VLLM
  PROM --> SLA
  GRAF --> PROM

  HW -.->|SSH 探活| VLLM
  DIFY -.->|OpenAPI 工具| HW

调用链口诀

用户 →（可选 Higress :18080）→ Dify 编排
                              → LiteLLM 路由 → 116 vLLM 对话
                                            → 207 Xinference 向量/Rerank
Dify 知识库 → Weaviate(:8088) + Xinference Embedding
全链路观测 → Langfuse(:3000)
平台健康   → SLA Exporter(:8781) → Prometheus(:9092) → Grafana(:3001)

主机 SSH（运维）

2. 有 Web 登录的服务

2.1 Dify 控制台（核心编排）

控制台 REST API（脚本用）需 Cookie + X-CSRF-Token；密码在 JSON 里要 base64 编码。见各作业脚本 dify_api.py。

2.2 Langfuse（Trace / Token / 成本）

2.3 Grafana（SLA 大盘）

2.4 Higress Console（网关管理）

2.5 Xinference 管理 CLI（非 Web UI）

2.6 服务入口页 :8090（一站看全 · 无登录）

卡片 URL 按访问者当前的 IP 拼（location.hostname），所以内网 / 外网换 IP 访问都不用改页面。

部署与维护命令见 207 服务入口与断电重启恢复 第 2 节。

2.7 DeepSeek Harness :3080（对话 Web UI）

2.8 办公 IP 云同步控制台 :8765

3. 无 Web 登录 · 核心 API 服务

3.1 LiteLLM Proxy（生产网关）

经 Higress 等价入口：http://192.168.110.207:18080/llm/v1/*（Key 相同）

详见 LiteLLM 部署、LiteLLM 高级功能与用法。

3.2 vLLM Qwen3.6-27B（116 GPU 推理）

关联：LiteLLM 上游、Dify 模型供应商（经 LiteLLM）、作业5/7 SSH 探活。

3.3 Xinference API（207 向量 / Rerank）

经 Higress：http://192.168.110.207:18080/xf/v1/*

3.4 Higress Gateway（统一 HTTP 入口）

3.5 Weaviate（Dify 向量库 · 中继）

3.6 Langfuse 公开 API

curl -sf http://192.168.110.207:3000/api/public/health

3.7 Prometheus + SLA Exporter（监控）

SLA Exporter — http://192.168.110.207:8781

curl -sf http://192.168.110.207:8781/metrics | grep ai_platform

Prometheus — http://192.168.110.207:9092

3.8 Hindsight API :18888

4. 作业 / 扩展 API（无登录 · OpenAPI 工具）

这些服务供 Dify Agent / Workflow 通过 OpenAPI 调用，无 Web 登录。

4.1 作业1 · 服务器状态 — :8777

4.2 作业2 · 工单 API — :8778

4.3 作业5 · vLLM 健康 — :8779

4.4 作业7 · 故障自愈 — :8780

5. 测试 / 学习环境（非生产）

6. 端口速查（避免冲突）

2026-10-13 在 207 实扫（ss -lntp + docker ps + systemctl 三处对齐）。加新服务前先看这张表。

6.1 宿主进程 / systemd

6.2 容器

6.3 k3s NodePort（ss 里看不到，由 kube-proxy 转发）

三个最容易搞错的：:9090 是 MinIO（不是 Prometheus，Prometheus 在 :9092）；:8888 是 Higress 自带的 Nacos 控制台（不是业务服务）；:8090 是服务入口页（不是 Dify，Dify 在 :80）。

完整的「恢复顺序 + 探活表」见 207 服务入口与断电重启恢复。

6.4 大模型不可用？先分三层

「大模型不能用」在 207 上要分三层定性——207 自己不产生模型，它只是把 116 的 vLLM 接进来：

Dify 应用 ─(1)→ LiteLLM :4000 ─(2)→ vLLM 116.62.10.183:8000

echo "网关: $(curl -s -o /dev/null -w '%{http_code}' --max-time 5 http://192.168.110.207:4000/health/liveliness)"
echo "上游: $(curl -s -o /dev/null -w '%{http_code}' --max-time 5 http://116.62.10.183:8000/v1/models)"
echo "模型: $(curl -s --max-time 5 -H 'Authorization: Bearer sk-litellm-bocheng-207' \
        http://192.168.110.207:4000/v1/models | head -c 200)"

根因提醒：116 的 H20 与业务进程共享（mxh_env / mxh_live），业务一上来就抢显存与算力 → 表现为偶发超时、排队、OOM 重启。这不是 207 能修的，只能在网关侧用重试 + 超时 + 备模可切把抖动吃掉（现状：num_retries: 2、request_timeout: 300、simple-shuffle）。

分级处置（L1–L5）与值班最小动作清单见 207 服务入口与断电重启恢复 第 5 节。

7. 凭据速查表

MinIO（Langfuse 依赖）密码在部署时随机生成，见 207 /Langfuse/langfuse/.env 或 langfuse_deploy_creds.txt。

8. 相关文档