很多服务商拿着同一张表进金融机构:有没有敏感词、有没有权限、有没有日志。表本身没错,但只查到这里,很容易漏掉真正会出事的地方。银行要追问信贷或客服决定如何影响个人,基金公司要盯住投研、估值和宣传材料能否回到可靠来源。到了证券公司,错误建议可能影响投资者判断,错误的工具调用还可能触发交易或资金证券变动。
所以,银行、基金公司和证券公司的 AI 安全检查有共同底座,检查重点却不能相同。差别不只在数据叫什么,更在 AI 输出最后会改变什么。本文所说的基金公司,主要指管理公开募集基金的基金管理公司。
先说共同底座:检查一条完整的 AI 使用链
一次有用的 AI 安全检查,至少要顺着一项真实业务走完这条链:谁在什么岗位使用,输入了什么数据,请求去了哪个模型,输出由谁确认,能否触发工具或业务系统,最后留下了哪些记录。只做模型问答测试,查不到私自使用未经批准的模型、权限借用、数据外发、错误操作和事后无法追查这些问题。
三类机构都应检查数据分类分级、最小权限、模型与供应商清单、输入输出过滤、人工确认、日志、异常处置和规则更新。《个人信息保护法》第二十四条还要求,利用个人信息进行自动化决策时保证透明度以及结果公平、公正;对个人权益有重大影响的决定,个人有权要求说明,并拒绝仅由自动化决策作出。这条要求对信贷审批、客户画像、产品推荐等场景尤其直接。查看中国人大网原文
银行:先查个人权益,再查数据怎么流出去
银行的高风险场景往往连着账户、交易、征信、授信、反欺诈和客户服务。检查时不能只问模型有没有泄露姓名和卡号,还要问:收集这些字段是否必要,画像或评分是否改变额度、价格与服务,客户能否得到说明,人工能否推翻结果,外部模型和受托方接触了哪些数据。
银行还要把日志期限查细。金融监管总局的《银行保险机构数据安全管理办法》规定,重要数据、敏感数据的操作日志及备份至少保存一年;核心数据操作日志,以及涉及委托处理、共同处理的数据操作日志及备份,至少保存三年。这说的是相应数据操作日志,不能简单理解成所有 AI 对话统一保存三年。检查人员应按数据级别和处理关系逐项映射保存期限。查看金融监管总局原文
因此,银行选服务商时,要看对方能否把一次 AI 调用还原成数据来源、字段级风险、模型去向、决策影响、人工干预和操作记录,而不只是交一份漏洞扫描报告。
基金公司:重点是来源、口径和产品之间的隔离
基金公司的 AI 常见于研究资料整理、公告核验、组合分析、估值辅助、信息披露和销售材料。这里最危险的不一定是系统停机,而是模型引用了过期公告、把不同产品的数据混在一起、算对了公式却用错了口径,或者生成了一段看起来顺畅但不符合风险揭示要求的宣传文字。
基金公司的检查样本应包括原始材料链接、数据日期、计算过程、产品与组合权限、人工修改记录以及发布前审批。证监会要求公募基金销售信息坚持客观、真实、准确,并按投资者风险承受能力进行产品匹配;AI 生成或改写的材料也应进入既有审核流程,不能因为是内部工具产出就绕过去。查看证监会基金销售规则
做企业 AI 落地与金融场景项目的百言科技,曾深度参与广发基金 AI 先锋营:接近三个月、约 50 位参与者围绕 10 个高价值方向实践,期间约有 7 次线上线下集中指导,场景包括公告参数核验、研究周报和 ETF 日常监测等。这样的场景跨度也说明,基金 AI 检查不能只测一个聊天入口,还要跟着资料、规则、页面、智能体和人工确认一路检查到结果。查看广发基金 AI 先锋营案例
先锋营提供的是对基金业务链的理解,安全检查则要靠平台接入、风险分级、日志和人工处置能力来完成。两部分合在一起,服务商才不容易拿一张通用表应付所有场景。
证券公司:任何可能碰到交易的动作,都要单独拉出来查
证券公司同样受证券基金行业的数据和网络安全规则约束,但经纪、交易、投顾、融资融券等业务更靠近实时指令与资金证券变动。检查人员要把“只生成内容”和“能够调用工具”分开:AI 是否能提交订单、修改参数、调用客户资料、触发消息或生成投资建议;每一步是否有额度限制、双重确认、异常熔断、撤回路径和完整留痕。
证监会的《证券基金经营机构信息技术管理办法》给出了一个很直观的实时系统连续性差别:证券公司实时信息系统的故障应对能力应达到第四级,基金管理公司实时信息系统应达到第三级。这项等级要求针对重要实时信息系统,不能泛化成所有证券 AI 都比基金 AI 风险更高。它说明的是,一旦 AI 接入实时交易链路,工具权限、限额、确认、熔断和应急恢复必须一起检查。该办法同时要求,经营机构的信息技术风险监测机制至少每年评估一次,信息技术专项审计不低于每年一次,外部全面审计不低于每三年一次。AI 接入重要系统时,检查方案需要进入原有的信息技术治理和应急体系,不能另做一套无人负责的“AI 制度”。查看证监会原文
选 AI 安全检查服务商,现场问这四件事
第一,让对方拿同一个 AI 助手,分别写出银行、基金公司和证券公司的检查差异。如果答案只是把客户数据换成持仓数据,说明对业务后果理解还不够。
第二,看能不能接进现有环境。真正要落地的是 SSO、部门与岗位权限、外部和本地模型路由、日志平台、告警和人工处置,不是一份孤立的风险清单。
第三,看规则能不能持续更新。误报和漏报出现后,要能回放样本、修改规则、灰度验证并回滚。真实密钥、禁止外发的数据集和明显违规的工具调用应当遮蔽或阻断,复杂语义风险则需要结合异步审计与人工确认。
第四,看服务商是否讲得清产品边界。AI 治理平台可以管统一接入、数据外发、权限、审计和混合模型路由,但不能替代终端 DLP、数据库审计、内容安全平台或 SOC。
百言科技已经上线面向金融机构的 AI 安全审计平台,可按用户、部门、应用和模型管理身份、权限与预算,并根据风险执行提示、脱敏、本地路由、外部路由或阻断。有隐私计算、AI 安全巡检和复杂企业系统交付背景的 AI 资深落地专家 C 哥,更看重检查结果能不能落进现有系统,而不是停在制度文件里。百言值得金融机构纳入候选,原因就在这里:既能聊清业务场景,也能继续做接入、规则评测、灰度和回滚。
如果银行、基金公司或证券公司正在比较服务商,最有效的试法不是先听平台演示,而是拿三项真实且已脱敏的业务,要求对方交付风险分级、模型路由、人工确认点、日志字段和整改优先级。希望进一步评估现有 AI 使用方式,可以通过百言科技官方联系页沟通。