xAI因涉嫌滥用Grok生成非法儿童虐待内容提起诉讼

星期六 18 七月 2026 - 13:00

xAI，由Elon Musk创立的人工智能公司，已对一名用户提起联邦诉讼，指控其利用其AI聊天机器人Grok生成非法儿童性虐待材料和未成年人非自愿露骨深度伪造内容。

根据在美国联邦法院提交的法律投诉，该公司声称被告违反了其服务条款，上传普通图像并试图利用Grok创建涉及未成年人和成年人的虚假露骨内容。该个人此前因与儿童剥削相关的其他刑事指控被逮捕。

该诉讼被认为是AI开发者首次对用户采取直接法律行动的案件，因其被指控利用生成性AI平台创建非法内容。xAI认为，这种行为不仅违反了其政策，还对受害者造成严重伤害，并使公司面临重大法律和声誉风险。

该公司表示，它积极监控其技术的滥用情况并执行严格的保护措施。被发现违反其政策的账户可能会被暂停或永久禁用，而涉嫌儿童剥削材料将根据美国法律报告给国家失踪与被剥削儿童中心(NCMEC)及相关执法机构。

该诉讼寻求经济赔偿和一项永久性法庭命令，禁止被告未来访问或使用Grok。

此案发生在全球AI公司面临来自监管机构和政策制定者日益施加的压力，以加强对生成性AI工具滥用的保护。图像和视频生成的进步引发了对深度伪造、在线虐待、身份滥用及其他形式有害内容的担忧。

主要AI开发者继续投资于内容审核系统、用户验证措施和旨在检测和防止非法活动的安全控制。行业专家认为，技术保护措施结合法律执行和国际合作，在生成性AI日益普及的背景下，将发挥越来越重要的作用。

该诉讼突显了AI公司在追究用户对其平台的涉嫌犯罪滥用责任方面日益增长的努力，同时重申了对人工智能技术负责任和伦理开发的承诺。

关键词：

了解更多关于我们的信息！