马来西亚和印尼因滥用人工智能生成的色情内容暂停Grok服务

星期一 12 一月 2026 - 14:10

马来西亚和印尼因滥用人工智能生成的色情内容暂停Grok服务

马来西亚和印尼成为首批暂停使用Grok的国家。Grok是由埃隆·马斯克旗下xAI公司开发的人工智能聊天机器人，此前有关部门称其被滥用以生成未经同意的色情图像。

此举反映出全球对生成式人工智能工具日益增长的担忧，这些工具能够生成逼真的图像、声音和文本，而现有的安全措施却无法阻止其被滥用。

Grok聊天机器人可通过马斯克的社交媒体平台x访问，它因生成篡改图像而受到批评，这些图像包括身着比基尼或摆出色情姿势的女性，以及涉及儿童的图像。

这两个东南亚国家的监管机构表示，现有的管控措施无法阻止虚假色情内容的制作和传播，尤其是涉及女性和未成年人的内容。印尼政府于周六暂时封锁了Grok，马来西亚随后于周日也采取了同样的措施。

印尼通信与数字事务部长梅蒂亚·哈菲德（Meutya Hafid）周六在一份声明中表示：“政府认为未经同意的性爱深度伪造视频严重侵犯了公民在数字空间的人权、尊严和安全。”

该部表示，此举旨在保护妇女、儿童和广大民众免受人工智能生成的虚假色情内容的侵害。

数字空间监管局局长亚历山大·萨巴尔（Alexander Sabar）在另一份声明中表示，初步调查结果显示，Grok 缺乏有效的安全措施来阻止用户基于印尼居民的真实照片创建和传播色情内容。

他表示，未经同意篡改或分享照片会侵犯隐私权和肖像权，造成心理、社会和名誉损害。

在吉隆坡，马来西亚通信和多媒体委员会周日下令暂时限制 Grok 的使用，原因是该委员会称该工具被“反复滥用”，用于生成淫秽、露骨和未经同意篡改的图像，其中包括涉及妇女和未成年人的内容。

监管机构表示，本月向 X Corp. 和 xAI 发出的、要求加强安全保障的通知，主要依靠用户举报机制来回应。

监管机构称：“在法律和监管程序进行期间，实施这项限制是一项预防性和适度的措施。”并补充说，在有效的安全保障措施到位之前，访问权限将继续被阻止。

Grok 于 2023 年推出，可在 X 平台上免费使用。用户可以在社交媒体平台上向 Grok 提问，并标记自己直接创建的帖子或回复其他用户的帖子。去年夏天，该公司添加了图像生成器功能 Grok Imagine，其中包括所谓的“刺激模式”，可以生成成人内容。

在东南亚实施限制之际，Grok 已受到其他地区（包括欧盟、英国、印度和法国）越来越多的审查。

上周，Grok 因发布性化深度伪造图像而引发全球强烈反弹，随后将图像生成和编辑功能限制为付费用户使用。但批评人士表示，此举并未彻底解决问题。

关键词：

了解更多关于我们的信息！