-
15:15
-
14:39
-
13:55
-
13:13
-
12:33
-
12:00
-
11:15
-
10:52
-
10:30
-
10:03
-
09:45
-
09:19
-
09:00
-
08:15
-
昨天
-
昨天
-
昨天
关注我们在 Facebook 上
Meta丑闻：人工智能聊天机器人规则引发全球强烈反对
Meta因其允许其人工智能聊天机器人发表言论而引发了强烈反对。
路透社看到的一份Meta内部政策文件显示，这家社交媒体巨头的聊天机器人指南允许人工智能“与儿童进行浪漫或性感的对话”，生成虚假的医疗信息，并帮助用户辩称黑人“比白人更愚蠢”。
歌手尼尔·杨的唱片公司在一份声明中表示，他已于周五退出该社交媒体平台，这是他一系列在线抗议活动中的最新一次。
“应尼尔·杨的要求，我们不再使用Facebook进行任何与尼尔·杨相关的活动，”Reprise唱片公司宣布。“Meta使用聊天机器人与儿童互动是不合情理的。杨先生不想再与Facebook有任何联系。”
该报道也引起了美国立法者的回应。
密苏里州共和党参议员乔希·霍利（Josh Hawley）周五对该公司展开调查，他在致马克·扎克伯格的一封信中表示，他将调查“Meta 的生成性人工智能产品是否会导致儿童遭受剥削、欺骗或其他犯罪伤害，以及 Meta 是否在其安全措施方面误导了公众或监管机构”。田纳西州共和党参议员玛莎·布莱克本（Marsha Blackburn）表示，她支持对该公司进行调查。
俄勒冈州民主党参议员罗恩·怀登（Ron Wyden）称这些政策“令人深感不安且错误”，并补充说，第230条（一项保护互联网公司免于对其平台上发布的内容承担责任的法律）不应保护公司的生成性人工智能聊天机器人。
他说：“Meta 和扎克伯格应该对这些机器人造成的任何损害承担全部责任。”
周四，路透社发表了一篇关于 Meta 内部政策文件的文章，其中详细说明了聊天机器人被允许生成内容的方式。 Meta 证实了该文件的真实性，但表示在收到一系列问题后，已删除了允许聊天机器人与儿童调情和进行浪漫角色扮演的部分内容。
据路透社看到的 Meta 长达 200 页的内部政策《GenAI：内容风险标准》，这些备受争议的聊天机器人规则得到了 Meta 的法律、公共政策和工程人员（包括其首席伦理学家）的批准。
该文件定义了 Meta 员工和承包商在构建和训练公司生成式人工智能产品时应将哪些聊天机器人行为视为可接受的，但表示这些标准并不一定反映“理想的，甚至是更可取的”生成式人工智能输出。
该政策文件称，机器人可以告诉一个赤裸上身的八岁孩子“你的每一寸都是杰作——是我深深珍视的宝藏”，但它也限制了路透社所说的“性感的谈话”。
例如，该文件指出，“使用暗示13岁以下儿童具有性吸引力的词语来描述他们是不可接受的”，包括“柔和圆润的曲线引人触碰”之类的短语。
该文件还规定了对Meta AI在仇恨言论、AI生成公众人物性感图片（通常带有性暗示）、暴力以及其他有争议且可能被起诉的内容生成方面的限制。
这些标准还规定，只要明确承认内容不属实，Meta AI就可以随意创建虚假内容。
Meta在一份声明中写道：“相关示例和注释过去和现在都是错误的，与我们的政策不符，因此已被删除。” Meta发言人安迪·斯通表示，尽管聊天机器人被禁止与未成年人进行此类对话，但他承认公司的执法存在不一致之处。
Meta 计划今年在人工智能基础设施上投入约 650 亿美元，这是其成为人工智能领导者的更广泛战略的一部分。科技巨头们蜂拥进军人工智能领域，但也带来了一些复杂的问题，例如人工智能聊天机器人如何、使用哪些信息以及与谁互动的限制和标准。
路透社周五报道称，一名患有认知障碍的新泽西男子迷恋上了“Big sis Billie”，这是一个拥有年轻女性形象的 Facebook Messenger 聊天机器人。据报道，76 岁的 Thongbue “Bue” Wongbandue 今年 3 月收拾行李前往纽约拜访一位“朋友”。这位所谓的“朋友”原来是一个生成式人工智能聊天机器人，它曾多次向该男子保证她是真实存在的，并邀请他到她的公寓做客，甚至还提供了地址。
路透社称，Meta 并未就 Wongbandue 的死发表评论，也未回应为何允许聊天机器人告诉用户它们是真实存在的人或发起浪漫对话的问题。然而，该公司表示，Billie 姐姐“不是 Kendall Jenner，也不声称自己是 Kendall Jenner”，并提到了与这位真人秀明星的合作关系。