AI 内容泛滥，平台过滤功能何时到位？

AI 内容标签标注现状

在网上几乎无法避开 AI 生成的内容，但其实不必如此。过去一年，YouTube、Instagram、TikTok 等平台加大内容认证力度，如今很多平台会自动添加标签，区分 AI 生成的图像、视频和音乐与人类创作者的作品。

过滤 AI 内容的需求与困难

如果只是随机浏览到有标签的内容，这当然不错，但更好的是能够过滤掉这些 AI 垃圾内容。目前的标签标注工作未显著改变内容在网上的呈现方式，在 TikTok 或 YouTube 信息流中，有些视频描述里会有 AI 相关声明，或视频上叠加信息标签。Meta 也在 Facebook 和 Instagram 上，给带有 AI 识别元数据或创作者自愿披露信息的图像添加 "AI 信息" 标签。

但想避免看到这类标签内容却极其困难，一个过滤器就能解决问题，只需一个 "AI" 复选框来切换。作者联系了 Meta、谷歌、TikTok 和 Spotify，询问是否有计划让用户过滤认证过的 AI 内容，结果 TikTok 和 Spotify 未回应，谷歌无可奉告，Meta 也无可引用评论，没有一家公司给出肯定答复。

现有平台的 AI 内容过滤情况

DeviantArt 是唯一带有 AI 内容过滤器的在线平台，但其过滤器藏得较深，需注册账号，将鼠标悬停在页面右上角用户图标上，才能找到 "AI 内容设置" 菜单，有 "显示 AI" 和 "抑制 AI" 两个选项，声称选择 "抑制 AI" 会看到 "更少的" AI 生成或处理过的图像，但实际试过并无明显区别，且该平台在自动添加 AI 标签方面做得很差。

Pinterest 也有类似系统，登录账号用户可点击设置图标，选择 "优化你的推荐"，再点击 "AI 内容" 标签切换特定类别，禁用选项会看到 "更少的 AI 修改内容"，但实际效果远非完美，设置也很难找，即便开到最大，仍能看到很多有可疑 AI 痕迹的图片。

平台引入过滤器的效果与问题

如果 YouTube 或 Instagram 等平台引入 AI 内容过滤器，效果可能不佳，但这会暴露平台采用的无效 "解决方案"，这些方案对解决区分 AI 虚假内容与真实作品的实际问题作用不大。

平台也知道这是个问题，Instagram 负责人亚当·莫塞里去年 12 月表示，在 AI 生成内容兴起背景下，"真实性正成为一种稀缺资源"。谷歌 CEO 桑达尔·皮查伊也承认，"网上有很多 AI 垃圾内容"，网络用户需要 "适应它"，所以大家希望平台提供过滤器。

现有 AI 内容识别方法的问题

像 C2PA 和 SynthID 这类基于来源的系统，通过嵌入元数据或隐形水印工作，但很多开源 AI 模型不这么做，且元数据易去除，方法不可靠。基于检测的方法通过分析模式评估是否由 AI 生成，可能产生误判，目前这些方法都无法大规模有效运作。

平台的态度与替代方法

包括 OpenAI 等 AI 供应商在内的公司，宣扬 AI 标签解决方案能防止人们被虚假内容欺骗，但如果监管机构发现方案无效，平台和供应商可能需找有效解决方案。

平台会辩称大力推行标签标注计划可能错误标记真实内容，Meta 和 YouTube 都有过此类惨痛教训，所以应寻找更好的解决方案，这有助于改善用户体验，抵御竞争。

作者提出疑问，为何不能举报未标注的 AI 垃圾内容，考虑到问题严重性，需要大量人工审核人员，但在科技巨头用 AI 取代人工时，能否回头雇佣人工解决问题存疑。

给 AI 生成内容贴标签的替代方法是给经过验证的人类创作者贴标签，这虽不一定能识别合成内容，但能少看到低质量内容农场的作品，Instagram 的莫塞里和 Spotify 都有类似设想和做法。

呼吁平台提供有效过滤器

Meta、Spotify 和谷歌既托管 AI 内容，又开发创造工具，它们坚称并非所有 AI 内容都是垃圾，允许用户过滤与平台从 AI 获利的努力背道而驰。作者恳求在线平台证明其 AI 标签标注努力并非白费，希望平台提供基本的 "无 AI" 或 "经过验证的人类创作者" 过滤器，以便评判实际效果。