AI 生成的内容要标识和留痕,数据上怎么设计?
面试怎么回答
要解决标识、溯源、审核记录和责任界定四件事。标识分显式和隐式:显式是在内容旁加用户能看到的提示,隐式是在文件元数据写入生成信息、图片音视频加数字水印,各个发布渠道逐一落实。数据上为每次生成建一条记录,包括内容 ID、时间、应用、调用人、模型和提示词版本、输入的数据和文档引用、输出或其哈希、审核人和修改差异、发布渠道,这是一张可以按应用、模型、审核状态分析的事实表。存储上按合规定保留期,加密控权,重要场景追加写并校验哈希防篡改。生成内容进入数仓或知识库时打上 AI 生成标签,避免被当成原始事实再训练造成循环污染,并在血缘里记录和输入来源的关系。
先把这段讲顺;面试官追问时,再展开下面的原理和细节。
详细讲解
公司的 AI 应用每天生成大量内容:营销文案、客服回复、分析报告、商品图片。监管要求越来越明确(国内已经出台了针对生成合成内容标识的规定),客户和内部审计也会问:「这段内容是 AI 生成的吗?基于什么生成的?谁审核过?」面试官问这题,想看你能不能从数据层面设计一套生成内容的标识和溯源体系。
要解决的问题
- 标识:让看到内容的人知道它是 AI 生成或 AI 辅助的;
- 溯源:事后能查到某条内容是什么时候、哪个应用、哪个模型、基于什么输入生成的;
- 审核记录:谁审核过、改过什么;
- 责任界定:出了问题能定位到环节。
标识怎么做
- 显式标识:在内容旁边或内容中加上用户能看到的提示,比如「本内容由 AI 生成」;
- 隐式标识:在文件元数据中写入生成信息,图片、音视频可以加数字水印;
- 不同渠道(App、网页、导出文件、对外发布)的标识要求要逐一落实。
生成记录的数据模型
为每次生成建立一条记录:
- 内容 ID:生成内容的唯一标识,可以嵌入内容元数据中;
- 生成信息:时间、应用、调用人、模型名称和版本、提示词版本、关键参数;
- 输入引用:使用的数据来源、检索到的文档 ID(不一定存全文,存引用即可);
- 输出:生成的内容或其哈希;
- 审核流转:审核人、审核时间、审核结果、修改前后的差异;
- 发布信息:发布到了哪些渠道、什么时间。
这是一张标准的事实表,可以按应用、模型、审核状态做统计分析。
存储和保留
- 生成记录和内容的保留期限按合规要求和业务需要确定;
- 内容中可能包含个人信息,存储要加密、控制访问;
- 只存哈希和引用可以减少存储量和隐私风险,但要确保需要时能还原证据;
- 防篡改:重要场景的记录写入后不可修改(追加写、定期校验哈希)。
和数据治理结合
- 生成内容如果进入数仓或知识库,要带上「AI 生成」标签,避免被当作原始事实再次用于训练或检索,造成循环污染;
- 血缘上记录生成内容和它的输入来源之间的关系。