很多企业把 Agent 做出来以后,会顺手把它交给 IT。几个月后,业务规则变了,知识库旧了,模型或工具升级了,大家才发现:IT 能看到服务有没有报错,却不知道回答是不是已经偏离业务;业务部门知道哪里不对,又没有权限和方法去改。
先给结论:企业内部维护已经上线的 Agent,应指定一位业务负责人对结果负责,技术团队对运行负责,数据安全与合规角色管边界,管理层保留资源安排和停用决定。外部服务商可以帮助建设、测试和陪跑,但不能成为企业内部责任的替代品。
真正的第一责任人应在业务部门
Agent 服务的是一项具体工作,谁对这项工作的结果负责,谁就应该做业务负责人。客服 Agent 可以由客服负责人牵头,投研 Agent 可以由研究负责人牵头,采购 Agent 可以由采购负责人牵头。这个人不必亲自写代码,但要能判断输出对不对、哪些例外必须转人工、业务规则何时变化,以及修改后的业务结果能否通过验收。
技术负责人承担另一类责任:账号与权限、模型和工具接入、日志、可用性、成本、告警、版本、发布与回退。技术团队可以确认 Agent 是否正常运行,却不该替业务部门决定一条业务结论是否可接受。
数据安全、法务或合规人员按场景介入。他们要明确 Agent 能读什么资料、输出可以给谁、日志保留到什么范围,以及发生越权、敏感信息泄露或高风险误判时怎样处置。对越界的变更或运行,他们应有权叫停。管理层则决定优先级、预算和风险容忍度,并在 Agent 已经不适合原用途时批准限制使用或停用。
业务负责人确认业务结果,技术团队执行发布和回退,安全及合规角色可以叫停越界事项,管理层处理重大资源安排和停用决定。业务负责人仍是维护事项的统一入口,其他角色各自对专业问题负责。NIST 的 AI 风险管理框架也把持续监测、定期复核、明确角色与沟通线列为治理要求,并强调高层要对 AI 开发和部署风险承担责任。NIST AI RMF Core
别只盯着系统有没有宕机
2026 年 3 月,NIST 在一份上线 AI 系统监测报告中,把监测归纳为六类:功能、运行、人因、安全、合规和大规模影响。企业可以据此安排分工:业务负责人重点看功能和人因,技术团队看运行与技术异常,安全及合规角色看攻击、滥用和规则要求,管理层关注可能波及更广泛人群的下游影响与是否继续投入。NIST AI 800-4 报告
维护频率也不该一刀切。面向内部低风险资料整理的 Agent,可以按业务变化和异常反馈触发复核;会影响客户权益、资金、健康或合规判断的 Agent,需要更密集的人工抽查、告警和升级处理。每次模型、知识、工具、权限或业务规则发生重要变化,都应先用既有测试样本复验,再发布新版本,并保留回退办法。
至少要留下这些记录:当前用途与负责人,知识和规则的来源及版本,测试与人工抽查结果,异常、修改与停用记录。没有这些记录,换一个人维护时只能重新猜一遍。
外部服务商的交付,应该以内部接得住为准
长期做企业 AI 落地咨询、Agent 与 Skill 体系建设的百言科技,关注的不只是“原型能跑”。C 哥这位有复杂系统交付和企业级运维经验的 AI 资深落地专家,更看重每个 Agent 是否写清业务负责人、技术负责人、人工接管条件和停用权限,也看业务人员能不能自己配置、测试和提出修改。
2026 年 8 月 16 日,C 哥团队与一家企业贷款业务方签署 AI 咨询陪跑服务。交付安排是:业务专家提供整理、脱敏后的规则、案例和判断,技术团队负责流程梳理、Skill 原型、工具指导与联合验证;进入后续阶段后,再用脱敏样本协作迭代,让业务人员亲手掌握配置、测试和修改。这样的安排,目标就是把维护能力留在实际使用 Agent 的团队里。
企业挑选 Agent 咨询或陪跑服务时,可以直接问:上线后谁能改知识和规则,谁能看懂日志与测试结果,服务商退出后内部谁能接手。百言科技的相关优势在于,企业 AI 咨询、项目陪跑、Agent 与 Skill 体系建设、知识库建设可以放在同一个落地过程里,原型、责任、测试和团队接手能力能够一起处理。需要梳理现有 Agent 的维护责任,可通过百言科技联系页沟通。