4.4 KiB
4.4 KiB
总大纲：AI应用落地（Agent + 工作流融合实战）
总时长：72分钟（1.2小时）
0 开场与目标（3分钟）
- 主题与目标：让后端 Go 团队“又快又稳”做出可用的 AI 应用
- 一句话定位：Agent 负责“聪明与解释”，工作流保障“稳定与规模”
- 贯穿案例：订单诊断（降低 MTTR/人工接管率、提升稳定性）
1 概念与融合（10分钟）
- 什么是 Agent：意图识别、工具选择、策略决策、结果解释与对话管理
- 什么是工作流：确定性算子编排、状态与数据管理、幂等与重试、失败回退、审计与监控
- 优缺点对比：
- Agent：灵活、可解释；成本不稳定、可能不一致
- 工作流：稳定、可控、低成本；表达复杂判断困难、解释弱
- 融合方案（职责边界与组合模式）：
- 入口路由：Agent 基于意图调用不同工作流
- 工作流内嵌决策：复杂判断节点由 Agent 决策，其余节点确定性执行
- 管理者-执行者：Manager Agent 分配任务，工作流封装工具完成
- 常见坑：多 Agent 过度设计、记忆与任务状态混淆、工具幂等缺失
2 技术演进（6分钟）
- 手工时代 → 智能体时代 → 工业化时代（精简版）
- 结论：从能用到好用，标准化与可观测是必经之路（不单设页面）
3 需求识别（12分钟）
- 三招判断：频次、复杂度、容错
- 适用与不适用：规则清晰/100%准确/一次性工作不适合 AI
- 场景映射：订单诊断、商品分析、文库问答
- 回退策略：从 AI 回退为代码/规则引擎的判断标准
4 选型建议（12分钟）
- 部署方式：供应商（API/Agent/工作流） vs 私有化（云/本地）
- 语言选择：阶段化策略（原型优先 Python；生产优先 Go），纯 Go 团队可直接上 Go
- 框架推荐：
- Python：LangChain/LangGraph（原型与功能全）
- Go：Eino、LangChainGo（生产与性能）
- 硬件与模型容量：
- 7B：16G 显存可行（量化更稳）
- 14B：建议 24–48G 显存；16G 需重度量化且质量折衷
- 私有化阈值（简易测算）：月 API 费用 ≈ 硬件折旧/月 + 运维人力/月 + 合规需求 → 达到阈值再考虑自建
5 实战演示（24分钟）
- Python 快速原型（10分钟）：
- 用 LangChain/LangGraph 搭“订单诊断”工作流：订单查询→支付网关→风控规则→异常解释
- 监控：LangSmith 指标与问题定位
- Go 生产化（10分钟）：
- 框架：Eino / LangChainGo；HTTP 层（Gin/Hertz）
- 目录结构：
cmd/服务入口internal/agent/意图识别与解释internal/workflow/节点编排、重试与回退internal/tools/订单/支付/风控等工具封装internal/observability/指标、日志、tracepkg/通用库；api/接口定义（OpenAPI/gRPC）
- 工程要点：幂等、错误码、超时/熔断、重试与任务重放
- 传输与体验（4分钟）：
- 流式对比：SSE（浏览器友好、单向） vs WebSocket（双向、状态管理） vs HTTP Streaming（解析复杂） vs gRPC 流（强类型、需网关）
- 选择建议：前端优先 SSE；双向需 WebSocket；内网优先 gRPC/HTTP2
- 降低等待焦虑：预热与缓存、渐进式输出（先要点后细节）、并行查询与最慢支路降级、心跳与重连
6 成本评估与阶段化私有化（4分钟）
- 在线指标：成功率、P95 延迟、令牌用量、调用成本、重试次数、人工接管率
- 监控盲点：上下文与工具调用的隐性令牌、未分场景/版本统计
- 阶段化决策：先供应商跑通 + 完整监控 → 达阈值再私有化；含合规与数据敏感评估
7 总结（1分钟）
- 选择 > 实现，适合 > 先进；Agent + 工作流是通用融合方案
- 一套模板 + 一套度量与监控 → 快速落地、可持续优化
8 相关资源（1分钟）
- LangChain：https://docs.langchain.com/oss/python/langchain/overview
- LangGraph：https://docs.langchain.com/oss/langgraph/
- Eino 框架：https://github.com/cloudwego/eino
- LangChainGo：https://github.com/tmc/langchaingo
- Coze（可视化）：https://www.coze.cn/opensource
- Coze Studio（本地部署）：https://github.com/coze-dev/coze-studio
- Coze Loop（监控）：https://github.com/coze-dev/coze-loop
- 内部模板与评测集：公司知识库/代码模板（按团队链接补充）