AI低质内容正在频繁涌入 YouTube 儿童平台——200多机构呼吁全面禁止

(SeaPRwire) –   超过200个儿童权益倡导团体和专家要求YouTube在其儿童平台上彻底禁止AI生成的“糟粕”内容，他们认为这些低质量、算法生成的视频正在重塑儿童的大脑，并在父母和监管机构视而不见的情况下赚取数百万美元。

这封公开信由儿童倡导组织Fairplay组织，致信YouTube首席执行官Neal Mohan和Google首席执行官Sundar Pichai，获得了超过135个组织的签署。签署方包括美国教师联合会和美国咨询协会，以及知名研究人员，如《焦虑的一代》作者Jonathan Haidt。信件的撰写者表示，YouTube不仅未能阻止AI糟粕内容触及儿童，还积极从中获利。

“AI生成的视频实际上只是YouTube平台在与儿童互动方面已经存在的无数问题的一个升级，”Fairplay的“幼儿线下茁壮成长”项目主任Rachel Franz告诉媒体。“解决这个AI糟粕现象很重要，但同样重要的是要追究YouTube的责任，因为其平台的设计就是为了吸引用户花费更多时间，而这些方式不一定与AI相关。”

到底什么是‘AI糟粕’？

这个术语指的是涌入YouTube等平台的大批量AI生成视频浪潮。这类内容制作成本低廉，通常怪异或无意义，旨在抓住并保持年轻（或任何）观众的注意力。亲爱的读者，这些视频确实很怪异：卡通动物以诡异谷美学风格执行重复性任务；信息混乱的虚假“教育”视频；或是没有任何纯粹目的的催眠循环。《纽约时报》在二月份的一项调查中记录了这一现象，发现此类视频遍布YouTube Kids，而YouTube曾将该平台宣传为适合儿童的安全、经过策划的空间。

“如此多的AI生成内容，其设计初衷确实是劫持儿童的注意力，尤其是那些刚刚开始发展冲动控制能力的幼儿，它们真的会扭曲现实、制造混乱，并影响儿童理解他们周围世界的方式，”拥有早期儿童发展背景的Franz说。“这本身不是一个育儿问题。平台正持续以让年轻用户几乎无法避免的方式向他们推荐AI内容。”

经济激励是惊人的。Fairplay发现，针对儿童的热门AI糟粕频道年收入超过425万美元，一些创作者公开宣传从“无情节、令人着迷的AI内容”中获利。信件认为，除非平台移除这些视频创作者的经济激励，否则任何政策都不够。

“在YouTube上针对8岁以下儿童的视频中，实际上只有大约5%是高质量的。而且在那5%中，关于它们是否真的高质量也存在争议，”Franz说。然而，YouTube认为这个数字与其标准政策不符。

“我们对YouTube Kids中的内容有高标准，包括将应用中的AI生成内容限制在一小部分高质量频道内，”YouTube发言人Boot Bullwinkle在一份声明中告诉媒体。“我们还为家长提供了屏蔽频道的选项。在整个YouTube平台上，我们优先考虑AI内容的透明度，对我们自己的AI工具生成的内容进行标注，并要求创作者披露逼真的AI内容。我们一直在改进我们的方法，以跟上生态系统的发展步伐。”

如何解决

该联盟援引儿童发展研究来论证这并非一个小众问题。即使是成年人也可能难以正确识别AI生成的内容，正确率只有大约50%。更令人担忧的是，反复接触会使人们更倾向于将AI图像视为真实，即使在被告知是假的之后。对于大脑仍在构建现实基本图式的幼儿来说，这种伤害会随着时间的推移而加剧。

Fairplay的要求是结构性的，而非表面性的。该联盟呼吁YouTube在整个平台上明确标注所有AI生成内容；在YouTube Kids中完全禁止AI生成内容；并在主YouTube平台上禁止AI生成的“面向儿童”内容。Fairplay希望YouTube禁止其算法向18岁以下的用户推荐AI内容；引入默认关闭的家长开关以禁用AI内容；并停止所有针对儿童的AI生成内容的投资。

最后一项要求直接针对YouTube对Animaj的投资，这是一家由Google的AI Futures Fund支持的AI驱动儿童娱乐工作室。“YouTube通过收购Animaj，本质上是在投资伤害婴儿，”Franz说。

在Bullwinkle给媒体的声明中，这位发言人证实YouTube正在为YouTube Kids开发专门的AI标签，但未提供时间表。YouTube首席执行官Neal Mohan在其年度信件中已将“管理AI糟粕”列为优先事项。信中写道：“为了减少低质量AI内容的传播，我们正在积极构建我们已有的、在打击垃圾信息和点击诱饵方面非常成功的系统，并减少低质量、重复性内容的传播。”

Bullwinkle还指出，《纽约时报》文章中提到的15个频道并不在YouTube Kids上，并且平台已移除了违反其儿童安全政策的视频。但对Franz来说，这还不够。

“不应该由个别研究人员指出几个频道作为例子，说它们在做可能伤害儿童的事情，并以此作为YouTube决定踢出平台的依据。我们在‘艾莎门’事件中看到，当时YouTube从其平台移除了15万个视频和数百个不同的频道，”Franz说。她指的是2017年的一桩丑闻，当时YouTube和YouTube Kids上有数千个视频使用熟悉的儿童角色，如《冰雪奇缘》中的艾莎和小猪佩奇，来隐藏令人深感不安的内容，包括图形暴力、性主题和吸毒，所有这些都披着算法友好的标签，如“教育”和“趣味”，以绕过过滤器并触及幼儿。

“所以我们知道YouTube有能力大规模监控、追踪和移除这些视频，但现在，他们采取的是创可贴式的方法，那些获得媒体报道的频道——似乎就是他们会采取行动的，”Franz继续说道。“但这并没有解决整体问题。”