演讲主题

从构建自治AI到设计生产级Agent系统

从构建自治 AI 到设计生产级代理系统，关键在于让工作流知道何时暂停、何时询问、何时结合人类判断继续执行。 大纲： 1.核心问题 ：自治 AI 很有趣，但生产环境提出了不同的问题。演示问题是 “代理能做到吗？”，而生产问题是 “代理应该独自做到吗？”。 2.设计思维转变 ：生产级系统不是完全自治的，而是为协作而设计的。目标是 “校准自治”，在 AI 擅长的地方自动化，在人类判断重要的地方暂停。 3.Dify Human Input 是什么 ：人类判断作为原生工作流节点。这是一个原生节点，当执行到达节点时，工作流暂停，向指定人员发送请求表单，然后根据输入或决策恢复工作流。 4.为什么这很重要 ：Human Input 将人机交接转变为系统的一部分。没有 Human Input，审查通常在工作流外部进行；有了 Human Input，上下文保留在工作流中，决策结构化，下游执行确定。 5.节点能做什么 ：通过 Web 应用或电子邮件传递请求，显示 Markdown + 变量，包含可编辑输入字段，使用决策按钮进行分支，配置超时处理，第一个响应关闭请求。 6.示例工作流 ：敏感销售分析与审批和升级。用户要求销售分析→知识检索获取数据→LLM 生成报告→Human Input 发送审批表单→经理选择：确认 / 重新生成 / 转发→超时或转发→第二审批人。 7.何时使用 Human Input ：高风险或不可逆操作、敏感或机密输出、不完整或模糊上下文、需要业务判断的决策、合规 / 权限边界、升级和异常处理。 8.更大的信息 ：从自治行为到生产级系统。生产级代理系统需要：自治、控制、协作、回退逻辑、清晰的人机交接点。Human Input 不是自动化的权宜之计，而是成熟自动化的样子。 听众收益： 1.思维转变 ：理解从追求最大自治到 “校准自治” 的重要性，认识到生产级系统需要在 AI 和人类之间建立智能协作，而非完全替代人类。 2.实用工具 ：了解 Dify 的 Human Input 节点如何将人类判断作为原生工作流节点，解决在实际工作流中需要审查、批准、业务判断等问题。 3.应用场景 ：明确在哪些情况下应该引入人类输入，如高风险操作、敏感信息处理、需要业务判断的决策等，避免纯自治系统的脆弱性。 4.工作流设计 ：学习如何将人机交接整合到工作流中，保持上下文连贯，使决策结构化，确保下游执行的确定性，提升系统的可维护性和可靠性。 5.案例参考 ：通过敏感销售分析的示例，直观理解如何在实际场景中应用 Human Input 节点，实现自动化与人类判断的有效结合。