企业 AI 治理怎么做?模型、数据、提示词要不要统一登记?

第 1247 题 约 2 分钟读完

本文目录
  1. 面试怎么回答
  2. 治理的目标
  3. 统一登记:AI 资产目录
  4. 风险分级和准入
  5. 运行中的治理
  6. 组织

面试怎么回答

我会把数据治理的方法延伸到 AI,目标是看得见、管得住、可追溯、成本可控且不卡创新。需要统一登记一个 AI 资产目录:应用的负责人、场景、用户范围和风险等级,使用的模型版本和来源,访问的数据和敏感级别、知识库和训练数据,核心提示词和工具权限,以及应用到模型到数据的血缘;尽量通过模型网关和数据平台的权限血缘自动采集,而不是人工填表。按风险分级准入:低风险登记即可,中风险要评测报告和数据安全评估,高风险要安全评审、人工审核和定期复审。运行中统一走模型网关做审计、计量和敏感检测,定期评测,统一事件处理和成本分摊。组织上成立跨部门治理小组,规范清晰、审批有时效承诺。

先把这段讲顺;面试官追问时,再展开下面的原理和细节。

详细讲解

一家公司里,十几个团队各自做了 AI 应用:用了哪些模型、处理了哪些数据、对外暴露了什么能力,没有人说得清。安全审计来了,CTO 才发现连「公司有多少个 AI 应用」都答不上来。面试官问企业 AI 治理(数据负责人、架构师岗位常问),想看你能不能把数据治理的方法论延伸到 AI。

治理的目标

  • 看得见:公司有哪些 AI 应用、用了什么模型和数据;
  • 管得住:风险分级、准入审批、权限控制;
  • 可追溯:出问题能查到原因和责任;
  • 成本可控:知道钱花在哪里;
  • 不拖后腿:治理不能把创新卡死。

统一登记:AI 资产目录

是的,需要统一登记,就像数据资产目录一样:

  • AI 应用:名称、负责人、业务场景、用户范围(内部/外部)、风险等级、上线状态;
  • 模型:使用的模型和版本、来源(外部 API、开源、自研微调)、部署方式;
  • 数据:应用访问的数据源和敏感级别、知识库内容、训练和微调数据集;
  • 提示词和工具:核心提示词的版本、Agent 可调用的工具及其权限;
  • 依赖关系:应用 → 模型 → 数据的血缘。

登记不能靠人工填表,要尽量自动采集:通过模型网关自动发现调用方和模型使用情况,通过数据平台的权限和血缘自动关联数据。

风险分级和准入

按风险给 AI 应用分级,不同级别有不同的要求:

  • 低风险(内部效率工具、不涉及敏感数据):登记即可;
  • 中风险(处理内部敏感数据、辅助决策):需要评测报告、数据安全评估;
  • 高风险(对外服务、自动执行有影响的操作、涉及个人信息或资金):需要安全评审、人工审核机制、上线后定期复审。

运行中的治理

  • 统一通过模型网关接入,做审计、成本计量、敏感数据检测;
  • 定期评测和抽检;
  • 事件管理:AI 相关的事故按统一流程处理和复盘;
  • 成本按应用和团队分摊。

组织

  • 成立跨部门的 AI 治理小组:技术、数据、安全、法务、业务;
  • 发布清晰的使用规范和审批流程,审批时效有承诺,避免团队绕过流程。