马来西亚和印度尼西亚因露骨色情深度伪造内容而着手禁止马斯克的Grok AI

(SeaPRwire) –   两个东南亚国家——马来西亚和印度尼西亚——成为全球首批针对埃隆·马斯克的Grok聊天机器人及其生成深度伪造图像的能力采取行动的国家。

1月10日，印度尼西亚宣布将暂时限制对Grok的访问。该国通信与数字部长梅乌蒂亚·哈菲德写道，实施这一禁令是为了保护“妇女、儿童和广大社区”免受人工智能生成的虚假色情内容的侵害。

随后，第二天，马来西亚通信和多媒体委员会（MCMC）表示，在发现“反复滥用……生成淫秽、色情露骨、不适当、严重冒犯且未经同意的篡改图像”后，也将“暂时限制”对Grok的访问。

在一份声明中， ，但认为他们的回应“不足以防止危害或确保合规”。

印度尼西亚和马来西亚都有严格的反网络色情规定。印度尼西亚拥有世界上最大的穆斯林人口，在这方面尤为激进，该国已根据其2008年《色情制品法》对印尼和外国的OnlyFans创作者提起诉讼。

1月9日， 将图像生成功能限制为付费用户使用，以遏制大量深度伪造图像的出现。在这些案例中，用户会要求Grok修改女性的照片，让她们穿着暴露。受害者抨击X允许在未经同意的情况下创建色情化内容，包括涉及未成年人的内容。政府官员也在考虑对X和Grok采取行动。

在 就印尼和马来西亚的禁令征求xAI的评论后，xAI发了一封只有“传统媒体谎言”这句话的电子邮件。

持续的安全漏洞

考虑到生成深度伪造内容变得如此容易，政府对X和Grok采取行动可能是不可避免的。

新加坡国立大学（NUS）李光耀公共政策学院的高级研究员周汉毅表示：“Grok的防护机制很容易被绕过。当一个系统很容易被诱导产生或放大有害的合成内容时，这就表明其设计存在缺陷。”

印尼和马来西亚对Grok和X采取行动之际，该地区对社交媒体和深度伪造技术存在更广泛的担忧。

亚洲多个国家的政府已经通过了禁止制作深度伪造内容的法规，通常是为了防止网络犯罪、欺诈和选举干预。2024年，韩国将观看或制作深度伪造色情内容定为犯罪。

去年，澳大利亚和马来西亚都禁止16岁以下人群使用社交媒体，理由是担心网络欺凌、性剥削和金融诈骗等网络危险。 周一，Meta披露，为遵守澳大利亚的新禁令，它已关闭了Facebook、 和Threads上的55万个账户。

周汉毅说：“各国政府越来越不愿意容忍‘先发布，后修复’的做法。如果保障措施不可信，能否使用该工具就成了一个合理的政策问题。”