Agent 人工审核流程怎么设计：什么时候自动，什么时候必须人确认

Agent 不是所有事情都要自动完成。真正能上线的 Agent，通常会把任务拆成三类：可以自动执行、需要人确认后执行、不能由 Agent 执行。人工审核流程的价值不是“让 AI 慢下来”，而是把风险动作、模糊判断和责任归属放到清楚的位置。

本文是待复核草稿。Agent 部署清单可以看 Agent 生产部署清单，工具权限可以看 Agent 工具权限控制。

适合谁

适合做企业内部 Agent、客服 Agent、销售跟进、内容发布、数据处理、运维助手和办公自动化的人。只要 Agent 会影响真实业务，就要设计人工审核。

也适合帮客户做 AI 自动化方案的人。客户常希望“越自动越好”，但交付方案里必须写明自动化边界，否则后续出了错误很难追责。

不适合谁

不适合把人工审核当成可有可无的人。如果 Agent 会发送消息、改数据、发布内容、调用外部系统、影响客户或员工，就不能只依赖模型判断。

也不适合所有步骤都人工确认。那样 Agent 只会变成复杂按钮。审核应该集中在高影响动作和不确定动作上。

动作分级

可以把动作分成四级。第一级是只读查询，例如查文档、查订单状态、读取公开资料。第二级是低影响草稿，例如生成回复草稿、生成报告摘要。第三级是可恢复写入，例如创建待审核工单、更新内部标签。第四级是高影响动作，例如发送客户通知、删除数据、修改权限、公开发布、触发付款或生产变更。

第一级通常可以自动执行，第二级自动生成但不直接发送，第三级按场景审批，第四级默认人工确认。

确认摘要

人工确认不能只显示“是否执行”。确认页要展示动作名称、目标对象、关键参数、预计影响、数据来源、Agent 的理由、可能风险和回滚方式。

例如 Agent 准备给客户发邮件，确认摘要应包含收件人、主题、正文、引用资料、是否包含价格、是否包含承诺性表达、发送后是否可撤回。这样审核人才能真正判断。

审批队列

当任务多起来时，需要审批队列。队列字段可以包括任务类型、风险等级、提交时间、提交人、Agent 名称、当前状态、审批人、审批结果和拒绝原因。

拒绝原因很重要。它不仅用于当前任务，也可以作为后续优化提示词、工具权限和规则的训练材料。比如“价格未核对”“资料来源不足”“语气不符合品牌”，都应该结构化记录。

自动重试和人工介入

低风险失败可以自动重试，例如临时网络错误。高风险失败不要无限重试，尤其是发送、写入和外部系统操作。重试前要判断是否会造成重复动作。

如果 Agent 连续无法完成任务，应进入人工介入状态，并提供已完成步骤、失败位置、错误信息和建议下一步。不要让用户重新描述全部背景。

常见错误

第一个错误是审批点太晚。等 Agent 已经调用工具后再提醒人确认，意义就小了。确认应该发生在关键动作之前。

第二个错误是审核信息太少。审核人只能看到一句摘要，就会变成形式审核。

第三个错误是没有把拒绝反馈沉淀下来。每次拒绝都暴露了规则缺口，应该进入流程优化。

风险提醒

人工审核不能替代权限控制。即使有审批，工具层也要做参数校验、权限限制和日志记录。人和系统边界要同时存在。

涉及客户权益、财务、合同、人事、医疗、法律、生产环境和公开内容时，审核流程要更严格，并保留完整审计记录。

具体步骤

第一步，列出 Agent 会执行的全部动作。第二步，按影响范围分级。第三步，为高影响动作设计确认摘要。第四步，建立审批队列和拒绝原因字段。第五步，设置重试和人工介入规则。第六步，用真实案例做上线前演练。需要审核流程模板，可以从 工具导航 下载或联系人工协助整理。

免责声明

本文只用于 Agent 审批流程设计学习，不构成法律、安全或合规意见。正式上线前，应结合业务风险、权限系统和适用规则进行人工复核。