30 lines
1.4 KiB
Markdown
30 lines
1.4 KiB
Markdown
# 实战落地：架构、传输与成本评估
|
||
|
||
## 案例流程（订单诊断）
|
||
- 节点：订单查询 → 支付网关 → 风控规则 → 异常解释
|
||
- 分支：失败回退、重试策略、人工接管入口
|
||
|
||
## Python 原型要点
|
||
- LangChain/LangGraph 搭建工作流
|
||
- LangSmith 指标与问题定位
|
||
|
||
## Go 生产要点
|
||
- 框架：Eino / LangChainGo；HTTP 层（Gin/Hertz）
|
||
- 目录结构：`cmd/`、`internal/agent`、`internal/workflow`、`internal/tools`、`internal/observability`、`pkg/`、`api/`
|
||
- 工程要点：幂等、错误码、超时/熔断、重试与任务重放
|
||
|
||
## 传输与体验
|
||
- SSE：浏览器友好、单向推送、实现简单
|
||
- WebSocket：双向、低延迟、需心跳与状态管理
|
||
- HTTP Streaming：保持 HTTP 语义，前端解析更复杂
|
||
- gRPC 流：双向流、性能好、Web 需网关
|
||
- 降低等待焦虑：预热与缓存、渐进式输出、并行查询与最慢支路降级、心跳与重连
|
||
|
||
## 成本与度量
|
||
- 在线指标：成功率、P95 延迟、令牌用量、调用成本、重试次数、人工接管率
|
||
- 监控盲点：上下文与工具调用的隐性令牌、未分场景/版本统计
|
||
- 阶段化私有化：先供应商 + 完整监控 → 达阈值再自建
|
||
## 一句话总结
|
||
用融合方案跑通端到端，并以指标闭环驱动体验与成本优化。
|
||
## 一句话引出
|
||
最后收束到“课程总结与资源”，附行动清单与评测模板。 |