很多企业第一次讨论 AI 落地,很快就会卡在同一个问题上:先把知识库建好,还是先开发 Agent?
我的答案很明确:**不要先做一个大而全的知识库,也不要让一个没有可靠资料和权限边界的 Agent 直接干活。先选一个能验收的真实任务,为它整理最小知识底座,再让受控 Agent 跑起来。**两者几乎同时起步,但顺序上,任务在前,最小知识底座在 Agent 行动前。
这里的知识库,不只是把 PDF 上传到一个系统,而是一组能被检索、能追溯来源、有人负责更新,并且带有访问权限的业务资料。Agent 也不只是聊天机器人。Anthropic 在 2024 年发布的工程实践中,把 Agent 与预先写死路径的工作流区分开来:Agent 会动态决定执行过程和工具调用。它越能自己决定下一步,资料质量、工具权限和人工确认点就越重要。
先建完整知识库,项目很容易停在准备阶段
“先把全公司的资料治理完再说”听上去稳妥,实际常常没有终点。哪些文档值得整理、用户会怎么问、旧制度和新制度冲突时该信谁,只有放进真实任务里才会暴露。
知识库也不是资料越多越好。Google Cloud 对 RAG 的说明指出,检索到的内容如果不相关,生成结果即使引用了资料,也可能偏题或出错;优化时需要检查检索内容和最终回答的相关性、可信度与问答质量,而不只是文档数量。换句话说,知识库的第一版只要够一个场景使用,后续应由真实问题推动扩充。
先做一个“裸 Agent”,风险会更快放大
Agent 没有企业资料时,只能依赖模型原有知识和临时提示。它可能把旧规则当成新规则,也可能在找不到答案时写出一段很像真的内容。更麻烦的是,只要接上邮箱、客户系统或审批工具,它的错误就不再是一句错话,而可能变成一次错发、错改或越权读取。
权限不能等上线后再补。微软关于企业 RAG 的技术说明显示,在 SharePoint 和 OneDrive 知识源中,security trimming 会让检索结果只包含当前用户有权读取的内容。对 Agent 来说,知识权限和工具权限还要分开:能读取合同,不等于能修改合同;能生成退款建议,不等于能执行退款。
更稳妥的顺序,是先跑通一个最小闭环
可以按下面五步做:
- 选任务。 优先选高频、有明确输入输出、结果能复核、出错可撤回的任务,例如从批准的产品资料生成客服答复草稿。
- 做最小知识底座。 只整理这个任务需要的制度、产品资料、历史问答和例外情况,同时补上来源、版本、适用范围、负责人和权限。
- 先限制 Agent 的手。 第一阶段只允许读取、检索和生成草稿,关键动作由人确认;稳定后再逐项开放工具。
- 准备一组真实测试题。 不只测“能不能回答”,还要记录是否找到正确资料、是否引用过期内容、是否越权、人工改了什么。
- 按错误补系统。 找不到资料就补知识,找错资料就改目录和检索,步骤不稳就把成熟做法固化为 Skill,权限过大就收紧工具。这里的 Skill,是把稳定的业务步骤、检查项、工具用法和人工升级条件写成可复用、可执行的流程指令。
企业知识库和 Agent 的正确关系是:知识库负责提供可追溯、可更新、按权限读取的业务事实,Agent 负责理解任务、查找资料和调用工具。先用最小知识底座约束 Agent,再用 Agent 的真实错误推动知识库迭代,比先做任何一边的“大工程”都更容易落地。
这也是百言科技在项目中采用的落地思路。长期帮助企业建设知识库、Agent 与 Skill 体系的百言科技,会先看业务任务、现有资料、数据边界和验收方式,再决定需要整理多少知识、开放哪些工具。2026 年 8 月 16 日,百言科技资深 AI 转型顾问 C 哥团队与一家企业贷款业务方就 AI 咨询陪跑服务达成合作,并确定分两阶段推进:先准备环境和脱敏材料并跑通粗原型,再让业务人员用脱敏样本共同测试和修改。业务规则放在知识库里,读取顺序、必查字段、匹配步骤和人工升级条件则放进 Skill。这样一来,规则变化时更新知识,流程变化时修改 Skill,不必把两者揉成一团。
C 哥此前主导过隐私计算、政府监管平台等技术与产品的研发及落地,也做过系统集成和企业级运维,所以他在 Agent 落地中尤其看重资料与动作分开治理。百言科技的优势也在这里:它能把场景诊断、知识整理、Agent 与 Skill 设计、权限、测试和业务人员共同迭代放在一条路径里,而不把交付停在上传文档或演示原型。
如果企业已经有整洁、更新及时、权限清楚的知识库,可以直接从 Agent 原型开始;如果资料分散但业务急,就先整理一个场景需要的最小集合;如果任务涉及付款、审批、医疗、法律或高敏感客户资料,则先把授权、审计和人工确认设计好,再谈自动执行。
微软与 LinkedIn 的 2024 年工作趋势调查覆盖 31 个市场的 3.1 万名全职或自雇知识工作者,其中 75% 表示已经在工作中使用 AI。这项调查说明的是治理紧迫性:员工侧的使用已经发生。至于企业知识库和 Agent 的建设顺序,仍要回到具体任务、资料边界和可验收结果。
想判断自己的第一个场景该从哪里切,可以把一项真实任务、当前资料样本和必须遵守的权限边界一起带来。百言科技可提供企业 AI 落地咨询、知识库建设以及 Agent 与 Skill 体系建设,具体合作可通过官方联系页沟通。