让我们过滤掉 AI 垃圾，你们这些懦夫

背景

随着生成式人工智能（Generative AI）的爆发式增长，互联网上充斥着大量由 AI 生成的内容。从 YouTube、Instagram 到 TikTok，各大主流平台在过去一年中加大了内容认证的努力，试图通过自动添加标签来区分 AI 生成的图像、视频和音乐与人类创作者的作品。

然而，这种“贴标签”式的解决方案并未真正解决用户的核心痛点。尽管 Meta、Google 和 TikTok 等科技巨头声称在推动真实性，但普通用户依然难以有效避开那些低质量、令人厌恶的“AI 垃圾”（AI slop）。这篇文章旨在探讨为何仅仅依靠标签是不够的，以及平台为何拒绝提供真正的过滤功能。

核心内容

文章指出，虽然在线平台正在努力通过标签来标识 AI 生成内容，但这并没有实质性地改变内容的呈现方式。用户可能会在 TikTok 或 YouTube 的视频描述中看到 AI 披露信息，或者在视频画面上看到叠加的信息标签；Meta 也在 Facebook 和 Instagram 上对带有识别性 AI 元数据或创作者自愿披露的图片应用“AI 信息”标签。

然而，如果用户想要真正避免看到任何带有此类标签的内容——考虑到生成式 AI 引发的“大脑腐烂”（brain rot）效应，以及其背后的伦理和环境担忧——这实际上极其困难。文章认为，一个简单的“AI”复选框过滤功能就能轻易解决这一问题，但平台却拒绝提供。

作者联系了 Meta、Google、TikTok 和 Spotify，询问它们是否有计划让用户过滤经过 AI 标签系统认证的内容。TikTok 和 Spotify 未予回应，Google 表示无可分享，Meta 未提供可归因的评论。总结来说，这些公司都没有给出肯定的答复。

目前，少数提供 AI 内容过滤功能的平台（如 DeviantArt 和 Pinterest）的实施情况极具代表性，且效果不佳：

• DeviantArt：该功能被隐藏得很深，用户必须注册账号，并将鼠标悬停在右上角的用户图标上才能找到“AI 内容设置”。它仅提供“显示 AI”和“抑制 AI”两个选项，后者声称会显示“更少”的 AI 生成或 manipulated 图像。但作者测试发现，两者之间没有显著差异。DeviantArt 未能有效自动应用 AI 标签，许多明显由 AI 生成的图像并未被标记。
• Pinterest：用户可以在设置中选择“细化推荐”，然后切换“AI 内容”标签来禁用特定类别（如艺术、美容、时尚等）。虽然官方称这会显示“更少 AI 修改的内容”，但作者发现该设置远非完美，且难以在信息流中直接找到。即使将 AI 过滤器调至最高，作者仍看到了大量带有可疑 AI 特征（如完美得不真实的摄影模特、无法解释的插图错误）的图片。

文章推测，如果 YouTube 或 Instagram 等其他平台引入 AI 内容过滤器，结果很可能也是如此：效果不会很好。但这并非坏事，因为这会暴露出我们所谓的“AI 皇帝”们所穿的无效“新衣”。这些标签解决方案在纸面上存在，旨在安抚监管者和批评者，但几乎没有解决区分 AI 伪造与真实摄影及创意作品的实际问题。

平台高层其实深知这是一个问题。Instagram 负责人 Adam Mosseri 曾指出，“真实性正成为一种稀缺资源”；Google CEO Sundar Pichai 也在最近的 Decoder 采访中承认，“市面上有很多 AI 垃圾”，用户需要“适应它”。既然承认了问题的存在，平台就应该提供过滤器。

目前，基于来源的系统（如 C2PA 和 SynthID）通过在内容创建时嵌入元数据或隐形水印来工作。然而，许多开源 AI 模型（尤其是用于恶意目的的）并不包含这些功能，且元数据很容易被剥离。基于检测的方法通过分析数字内容中的模式来评估 AI 使用可能性，但容易产生误报。目前，没有任何一种方法能在大规模上有效工作。

尽管如此，包括 OpenAI 在内的 AI 提供商仍将这些标签解决方案宣传为防止人们被深度伪造（deepfakes）和其他误导性伪造欺骗的手段。如果监管机构发现这些方案无效，平台和提供商可能被迫寻找真正有效的解决方案，而不是继续充当烟雾弹。

平台辩称，如果过度推动标签计划，可能会错误标记真实内容。Meta 和 YouTube 都曾因错误标记创作者声称未使用 AI 工具生成的内容而吃过亏。文章反驳道，如果这是当前标签系统的主要担忧，那就去寻找更好的解决方案。为数百万用户改善用户体验以应对竞争，难道不是值得的投资吗？

此外，文章还提出了一个尖锐的问题：为什么用户不能举报所有未标记的 AI 垃圾？鉴于 Kapwing 去年的一项研究发现，新用户在 YouTube 上看到的视频中超过 20% 是低质量的生成垃圾，有效审核每个举报可能需要大量人工审核员。

这或许才是关键所在。当大型科技公司用 AI 取代人类员工时，它们是否愿意为了修复 AI 的问题而重新雇佣人类？与缺乏细致调查技能的自动化审核系统相比，人类员工有着令人头疼的要求，如工资和福利。

作为替代方案，文章建议开始标记“经过验证的人类创作者”，而不是标记 AI 内容。这虽然不能直接识别由这些创作者发布的合成内容，但可以帮助用户减少来自生产低质量垃圾的内容农场的内容。这是 Instagram 的 Mosseri 为 Meta 的图片分享平台描绘的未来，也是 Spotify 已经在通过“已验证艺术家”做的事情。

最后，文章指出，Meta、Spotify 和 Google 不仅托管 AI 生成的图像、广告和音乐，它们还是创建这些内容的工具的制造者。因此，它们坚持认为并非所有 AI 内容都是垃圾，问题在于质量——如果 AI 内容足够逼真，它们希望用户不会察觉并继续消费。允许用户过滤掉这些内容，将违背这些平台从 AI 中获利的所有努力：它们希望你拥抱这个“垃圾工厂”。

作者呼吁平台证明 AI 标签工作并非徒劳，但目前平台掌握着所有筹码。用户只能希望它们的 AI 审核工作达标。因此，平台应提供一个基本的“无 AI”或“已验证人类创作者”过滤器，让用户来评判这些措施的实际效果。

关键要点

• 标签无效性：目前的 AI 内容标签（如 YouTube、Meta 的做法）并未实质改变用户体验，用户仍难以避开 AI 生成内容。
• 平台拒绝过滤：主要平台（Meta、Google、TikTok、Spotify）均拒绝提供用户端的 AI 内容过滤选项。
• 现有过滤器缺陷：DeviantArt 和 Pinterest 提供的过滤器要么隐藏极深，要么效果不佳，无法有效减少 AI 内容的展示。
• 技术局限性：基于来源的系统（C2PA/SynthID）易被剥离元数据，基于检测的系统易产生误报，目前无大规模有效解决方案。
• 监管与公关动机：标签系统更多是为了安抚监管者和批评者，而非解决实际问题。
• 人工审核的经济账：平台不愿提供举报机制或人工审核，因为重新雇佣人类员工以修复 AI 问题违背了其降本增效（用 AI 替代人力）的商业逻辑。
• 替代方案：建议转向标记“经过验证的人类创作者”，而非标记 AI 内容，以此帮助用户避开低质量内容农场。
• 利益冲突：平台既是 AI 内容的消费者，也是 AI 工具的提供者，因此有动力让用户接受并消费 AI 内容，而非将其过滤掉。

意义与影响

这篇文章深刻揭示了当前互联网平台在应对 AI 内容泛滥时的矛盾心态和结构性困境。

首先，它指出了**“合规性”与“实用性”之间的巨大鸿沟**。平台推出的 AI 标签系统更多是一种应对监管压力的公关手段（Smokescreen），旨在展示其在“真实性”上的努力，而非真正致力于提升用户体验或解决信息污染问题。这种“纸面解决方案”无法应对开源模型泛滥和元数据易被剥离的技术现实。

其次，文章触及了科技巨头的核心商业逻辑冲突。一方面，平台呼吁用户适应 AI 垃圾，另一方面，它们又是 AI 生成工具的制造者和受益者。允许用户一键过滤 AI 内容，将直接冲击平台从 AI 生态中获取流量和广告收入的商业模式。因此，平台缺乏动力去开发真正有效的过滤工具，甚至可能故意让过滤器失效，以维持“垃圾工厂”的运转。

最后，文章提出了一个范式转移的建议：从“标记 AI”转向“标记人类”。在 AI 内容难以从