立法者和受害者批评限制Grok人工智能图像功能仅向付费用户开放的决定，称其为’侮辱性的’和’无效的’

(SeaPRwire) –   在因被广泛谴责用于创建未经同意的真实女性和儿童的性化图像后，埃隆·马斯克（Elon Musk）的xAI已将其AI聊天机器人Grok的图像生成功能限制为仅限付费订阅者使用。

Grok周五通过X宣布：“图像生成和编辑目前仅限于付费订阅者。”这项限制意味着绝大多数用户无法再访问该功能。已备案信用卡信息的付费、已验证订阅者仍然可以使用，但理论上，如果该功能被滥用，他们可以更容易地被识别。

然而，专家、监管机构和受害者表示，新的限制并非解决当前普遍问题的办法。

英国深度伪造专家Henry Ajder告诉《金融时报》：“提供用户详细信息和支付方式将有助于识别肇事者的论点也缺乏说服力，因为提供虚假信息和使用临时支付方式非常容易。”“这里的逻辑也是被动的：它旨在帮助在内容生成后识别违法者，但这并不代表对模型本身有任何对齐或有意义的限制。”

英国政府在评论中称此举对受害者来说是“侮辱”。英国首相的发言人周五告诉记者，这一改变“只是将允许创建非法图像的AI功能变成了一项高级服务。

他们说：“X是时候解决这个问题了；如果另一家媒体公司在市中心展示非法图像的广告牌，它会立即采取行动将其撤下，否则将面临公众强烈反对。”

X的一位代表表示，他们正在“调查”新的限制。xAI则回复了自动消息：“传统媒体谎言。”

过去一周，真实女性遭到大规模攻击，用户未经她们同意，操纵照片以去除衣物、将受害者置于比基尼中，或将其置于性暗示场景中。一些受害者表示，她们对这一趋势感到被侵犯和不安，许多人称她们向X的举报未得到回应，图像仍在该平台上存在。

研究人员表示，Grok生成和分享图像的规模是前所未有的，因为与其他AI机器人不同，Grok在X平台中本质上拥有一个内置的分发系统。

一位研究人员的分析估计，X在过去一周已成为深度伪造最泛滥的网站。社交媒体和深度伪造研究员Genevieve Oh对@Grok账户发布到X的图像进行了24小时分析，发现其每小时大约生成6,700张性暗示或裸露图像。相比之下，同期其他五个领先的性化深度伪造网站平均每小时生成79张新的AI脱衣图像。Oh的研究还发现，性化内容在Grok的输出中占据主导地位，占该聊天机器人生成的所有图像的85%。

保守派评论员、马斯克其中一个孩子的母亲Ashley St. Clair是受这些图像影响的人之一。她表示，用户正在将她X个人资料上的图像变成她的露骨AI生成照片，其中一些她称描绘她为未成年人。在公开反对这些图像并对涉及未成年人的深度伪造表示担忧后，St Clair还表示，X在未通知她或退还她每月8美元费用的情况下，取消了她的已验证付费订阅者身份。

Ashley St Clair谈到最近的限制时说：“将其限制为仅限付费用户表明他们将在此问题上加倍努力，给受害者带来不必要的负担，要求她们向执法部门举报，并要求执法部门动用资源追踪这些人。”“这也是一种敛财行为。”

St Clair表示，许多针对她的账户已经是经过验证的用户：“这根本无效，”她说。“这只是为了应对更多关于Grok图像生成的执法调查。”

监管压力

限制Grok功能的举动是在全球监管机构日益增大的压力下进行的。在英国，首相基尔·斯塔默（Keir Starmer）已表示可能完全禁止该平台，称其内容“可耻”且“令人作呕”。欧盟的监管机构也已启动调查或审查。

欧盟委员会已要求X保留所有与Grok相关的内部文件和数据，在将未经同意的性露骨深度伪造的传播描述为“非法”、“骇人听闻”和“令人作呕”之后，加大了对该平台内容审核实践的调查力度。

专家表示，新的限制可能无法满足监管机构的担忧：“这种方法是一种钝器，未能解决Grok对齐问题的根本，而且可能无法让监管机构满意，”Ajder说。“将功能限制给付费用户并不能阻止此类内容的生成；一个月的订阅并非一个强有力的解决方案。”

在美国，这种情况也可能考验现有法律，例如《通信规范法》（Communications Decency Act）第230条，该条款保护在线服务提供商免于对用户创建的内容承担责任。

斯坦福大学以人为本人工智能研究所的Riana Pfefferkorn此前表示，围绕AI生成图像的责任归属尚不明确。“我们面临这样一种情况，即平台本身首次大规模生成未经同意的成人和未成年人色情内容，”她说。“从责任角度和公关角度来看，CSAM法律在这里构成了最大的潜在责任风险。”

马斯克此前曾表示，“任何使用Grok制作非法内容的人都将承担与上传非法内容相同的后果。”然而，目前尚不清楚如何追究账户的责任。