企业 AI 治理怎么做?模型、数据、提示词要不要统一登记?
面试怎么回答
我会把数据治理的方法延伸到 AI,目标是看得见、管得住、可追溯、成本可控且不卡创新。需要统一登记一个 AI 资产目录:应用的负责人、场景、用户范围和风险等级,使用的模型版本和来源,访问的数据和敏感级别、知识库和训练数据,核心提示词和工具权限,以及应用到模型到数据的血缘;尽量通过模型网关和数据平台的权限血缘自动采集,而不是人工填表。按风险分级准入:低风险登记即可,中风险要评测报告和数据安全评估,高风险要安全评审、人工审核和定期复审。运行中统一走模型网关做审计、计量和敏感检测,定期评测,统一事件处理和成本分摊。组织上成立跨部门治理小组,规范清晰、审批有时效承诺。
先把这段讲顺;面试官追问时,再展开下面的原理和细节。
详细讲解
一家公司里,十几个团队各自做了 AI 应用:用了哪些模型、处理了哪些数据、对外暴露了什么能力,没有人说得清。安全审计来了,CTO 才发现连「公司有多少个 AI 应用」都答不上来。面试官问企业 AI 治理(数据负责人、架构师岗位常问),想看你能不能把数据治理的方法论延伸到 AI。
治理的目标
- 看得见:公司有哪些 AI 应用、用了什么模型和数据;
- 管得住:风险分级、准入审批、权限控制;
- 可追溯:出问题能查到原因和责任;
- 成本可控:知道钱花在哪里;
- 不拖后腿:治理不能把创新卡死。
统一登记:AI 资产目录
是的,需要统一登记,就像数据资产目录一样:
- AI 应用:名称、负责人、业务场景、用户范围(内部/外部)、风险等级、上线状态;
- 模型:使用的模型和版本、来源(外部 API、开源、自研微调)、部署方式;
- 数据:应用访问的数据源和敏感级别、知识库内容、训练和微调数据集;
- 提示词和工具:核心提示词的版本、Agent 可调用的工具及其权限;
- 依赖关系:应用 → 模型 → 数据的血缘。
登记不能靠人工填表,要尽量自动采集:通过模型网关自动发现调用方和模型使用情况,通过数据平台的权限和血缘自动关联数据。
风险分级和准入
按风险给 AI 应用分级,不同级别有不同的要求:
- 低风险(内部效率工具、不涉及敏感数据):登记即可;
- 中风险(处理内部敏感数据、辅助决策):需要评测报告、数据安全评估;
- 高风险(对外服务、自动执行有影响的操作、涉及个人信息或资金):需要安全评审、人工审核机制、上线后定期复审。
运行中的治理
- 统一通过模型网关接入,做审计、成本计量、敏感数据检测;
- 定期评测和抽检;
- 事件管理:AI 相关的事故按统一流程处理和复盘;
- 成本按应用和团队分摊。
组织
- 成立跨部门的 AI 治理小组:技术、数据、安全、法务、业务;
- 发布清晰的使用规范和审批流程,审批时效有承诺,避免团队绕过流程。