让智能体「能办事」之后,风险也从说错话变成办错事。查询订单、创建线索、预约时段,都应该是一个个有边界的工具,而不是一段无所不能的提示词。苏州青枫浦网络科技有限公司 在 译枫CMS 里把这种边界写成 AI Agent工具调用 契约。
一份契约至少包括:工具名称、给模型看的用途说明、输入字段、输出字段、谁有权调用、失败时怎么办、是否需要人工确认。缺一项,上线后就靠聊天记录猜。
用途说明用业务语言写短。「查询当前用户在本站的未完成预约」比「获取数据」有用。说明里同时写不能做什么,例如不能查他人订单、不能改价。
输入字段写类型和是否必填。手机号、订单号、门店编号从对话里抽取时,要允许「没听清」并反问,禁止用空值或猜测值去调用。猜一个订单号可能改到别人的单据。
输出只返回完成下一步所需的信息。查询订单不必把内部备注、成本价、全部历史号码回给模型。返回越少,说漏的概率越低。
读和写分开。读工具可以自动调用;写工具默认要用户确认摘要后再执行。确认页用自然语言复述:将为哪个手机号创建哪一天的预约。用户说「不对」就停。
幂等要设计。同一会话里用户连点或模型重试,不能创建两张线索、两笔预约。用客户端请求号或「同用户同事项未关闭则复用」来保证。
超时和失败分类:没找到、没权限、下游超时、参数不合法。每类给用户不同的话,而不是统一「系统开小差」。没找到可以请对方核对编号;没权限就转人工。
重试有次数上限。超时最多再试一次,参数错误不要原样重试。把失败原因记到日志,供第二天改契约说明。无限重试既费钱又可能重复写入。
人工确认不是每步都要,否则智能体没有意义。高风险动作才确认:退款、改价、取消已支付订单、向外部发送承诺。低风险如「查询我的预约」可以自动。
权限用专用账号,而不是员工个人账号。这个账号只能访问契约里列出的接口。员工离职不影响,也避免智能体继承某人的全部后台权限。
和 EFCMS 表单的关系:能用表单收集的结构化信息,就不要在对话里拼。对话负责解释和补问,表单负责落库。两边字段名保持一致,避免「电话」和「手机」各存一份。
业务编排 把工具串起来时,每一步的输入来自上一步的输出或用户原话,不来自模型的自由发挥。编排图上标出哪一步可自动、哪一步必须停。
副作用要显式。发短信、发邮件、改库存都是副作用。契约里写「调用即发送」,测试环境把发送改成写日志,避免调试时打给真实客户。
版本号写在契约上。改了字段含义就升版本,旧会话不要混用新参数。线上同时只跑一个写入版本,读取可以兼容旧字段一段时间。
测试用例跟着契约走。正常、缺字段、越权、重复提交、下游超时,各至少一条。用例用脱敏数据。上线前把这五条再跑一遍。
观察日志只记工具名、是否成功、耗时、错误类别,不记完整证件号和对话全文到公开看板。排障需要详情时走有权限的明细页。
模型把工具当搜索引擎乱用时,要收紧说明并减少暴露的工具数量。一次对话可见的工具越少,误调用越少。按入口配置工具集:售前入口不要看见退款工具。
确认摘要若与工具参数不一致,以参数为准还是以摘要为准,必须事先规定。建议以用户刚确认的摘要重新生成参数,不一致就再次确认。
回滚:写工具失败在半路时,不能留下「预约已创建但通知没发出却显示成功」。要么整体成功,要么明确告诉用户「已记下,通知稍后补发」并真的补发。
和知识库的边界:回答产品参数优先走已审核资料;只有涉及「我的订单」才调用工具。不要为了每一句寒暄去查接口。
多系统并存时,契约写明主数据在哪。客户编号以哪边为准,避免智能体在两边各建一个客户。译枫CMS 集成项目会先画这张主数据图。
速率限制按用户和按入口。单个会话每分钟调用写入工具的次数要少。超出就提示稍后再试,并通知运营查看是否被脚本刷。
错误话术事先写好,不让模型临场编。例如「没有查到该订单,请核对编号或转人工」。固定话术更可测。
审计:谁的会话在何时调用了哪个写工具、参数摘要、结果。出了投诉能还原。审计保留期与业务单据一致。
灰度:新工具先只对内部账号开放,再对某一类页面开放。出问题能按工具开关关闭,而不必关掉整个智能体。
文档给业务一张「工具能做和不能做」的列表,避免销售对客户承诺智能体可以改合同。列表和契约同步更新。
编排里的人工节点要有负责人值班表。转到人工却没人接,用户会认为系统坏了。超时无人接就留下表单并告知预计回复时间。
不要把数据库查询语句交给模型拼装。只提供有限工具和枚举参数。这样既安全,也让失败原因可读。
金额、库存、交期三类输出必须来自工具返回值,禁止模型改写数字。若工具没返回,就说暂时无法确认,而不是给一个「大概」。
契约评审会邀请业务、开发和客服各一人。业务看用途是否多余,客服看失败话术是否能用,开发看幂等是否做得到。三方签字再开发。
与小程序的配合:在小程序里执行的写操作,确认按钮用小程序页面,不用纯文本「回复确认」。页面上的按钮更不容易误触,也方便展示明细。
旧工具下线要有日期。下线前看是否还有入口引用。下线后模型侧同步移除说明,避免继续尝试调用一个不存在的名字。
给财务和安全的说明:智能体账号的权限清单和近期调用次数。异常峰值要能告警。这和成本治理用的是同一份调用日志。
示例契约可以很短。例如「创建销售线索」:必填联系方式和意向产品,可选备注;重复手机号当天不新建;失败则保留对话并通知销售群。短而可执行,好过十页空话。
反例:一个叫「万能查询」的工具接受任意问题。它最终会变成不受控的数据出口。拆成「查我的订单」「查公开产品参数」两个工具。
反例:失败时让模型「自行想办法完成」。想办法通常意味着换一个更危险的工具。失败就停,是契约的一部分。
培训值班人员如何在后台看到工具轨迹,以及如何把误调用标记为坏案例。坏案例会进入后续回归测试,而不是只在群里抱怨一次。
若企业还在用表格跟进,第一版写工具可以只是「追加一行」。能稳定追加、不重复、不写错列,再考虑接入更完整的客户系统。
验收标准:任意一条写操作都能指出契约编号、确认步骤和失败话术。指不出就不算 业务编排 完成。
契约评审时准备一页「调用示例」:一条成功、一条缺参数、一条重复提交。示例用脱敏数据,开发和业务对着同一页验收,避免口头说「大概能用」。
工具返回的枚举值用中文说明对照表交给客服。例如状态码对应「可预约」「已满」「已关闭」。没有对照表,坐席看到内部代号仍然无法回复客户。
上线第一周每天看失败分类的前三项。若某类失败集中,先改契约说明或页面提示,而不是放宽重试。放宽重试通常只是把同一错误多做几遍。
若同一工具被两个入口使用,例如官网和小程序都能创建线索,契约仍只保留一份,入口差异写在调用方。避免两套参数名,导致合并线索时对不上字段。
总结:工具契约把智能体限制在可理解的动作上。译枫CMS 会按入口配置 AI Agent工具调用,并与 EFCMS 表单字段对齐。欢迎访问 efcms.cn 描述您希望自动完成的那一件事,苏州青枫浦网络科技有限公司 可帮您起草第一份契约。