🔚 软件时代的终结,正是 harness 时代的开端。 🧠 LLM 只是整个系统中最小的部分,真正干活的是围绕它的 harness。 📋 从 demo 到生产级
- 序号:361
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
🔚 软件时代的终结,正是 harness 时代的开端。 🧠 LLM 只是整个系统中最小的部分,真正干活的是围绕它的 harness。 📋 从 demo 到生产级 Agent,有 7 个组件将二者区分开来: 上下文与记忆:模型所看到的内容。通用模型需要定制化的检索,为放射科医生获取上下文的系统,与为律师助理获取上下文的系统是不同的。与之并存的,是上下文数据库:一本关于企业如何运作的 “食谱”。 工具与行动:模型如何行动。配方描述了要做什么,工具则是执行操作的原料与器具。MCP 已成为连接组织,一个 harness 的质量取决于它能安全暴露多少工具,以及它处理工具故障的干净程度。 编排与循环:模型如何思考。思考、行动、观察、重复,规划、子 Agent、重试与停止条件。 状态与持久化:当 harness 在第 7 步(共 10 步)崩溃时,应从第 8 步恢复,而非从第 0 步重启。 沙盒与计算:模型运行的地方,凭证存在于模型之外。 可观测性与治理:你如何信任模型,追踪、评估、护栏、人机协同。 成本与工作流优化:确定性 vs 不确定性,SOFA、扩缩模型,模型的能力正在趋同,最好的骑手胜出。
总体总结
主题正文
- 🧠 LLM 只是整个系统中最小的部分,真正干活的是围绕它的 harness。
- 📋 从 demo 到生产级 Agent,有 7 个组件将二者区分开来:
- 通用模型需要定制化的检索,为放射科医生获取上下文的系统,与为律师助理获取上下文的系统是不同的。
- 与之并存的,是上下文数据库:一本关于企业如何运作的 “食谱”。
- MCP 已成为连接组织,一个 harness 的质量取决于它能安全暴露多少工具,以及它处理工具故障的干净程度。
- 思考、行动、观察、重复,规划、子 Agent、重试与停止条件。
- 状态与持久化:当 harness 在第 7 步(共 10 步)崩溃时,应从第 8 步恢复,而非从第 0 步重启。
- 成本与工作流优化:确定性 vs 不确定性,SOFA、扩缩模型,模型的能力正在趋同,最好的骑手胜出。