人工智能聊天机器人遭起诉，因青少年认为丹妮莉丝·坦格利安爱他而自杀
一名青少年因迷恋人工智能聊天机器人而自杀，其母亲现在指控该聊天机器人的制造商与他的死亡有关。
周三，梅根·加西亚在佛罗里达州联邦法院对制作可定制角色扮演聊天机器人的 Character.ai 提起民事诉讼，指控该公司存在疏忽、非正常死亡和欺骗性贸易行为。她的儿子塞维尔·塞泽三世 (Sewell Setzer III) 今年 14 岁，于 2 月在佛罗里达州奥兰多去世。据加西亚说，在塞泽去世前的几个月里，他日夜不停地使用聊天机器人。
“一款危险的人工智能聊天机器人应用程序面向儿童销售，虐待和掠夺我的儿子，操纵他自杀，”加西亚在一份新闻稿中说。 “这场悲剧让我们全家悲痛欲绝，但我要发声警告这些家庭，人工智能技术具有欺骗性和成瘾性，并要求 Character.AI、其创始人和谷歌承担责任。”
Character.ai 在一条推文中回应道：“我们为失去一位用户的悲剧而心碎，并想向他的家人表示最深切的哀悼。作为一家公司，我们非常重视用户的安全。”该公司否认了诉讼的指控。
Setzer 迷上了 Character.ai 开发的一款聊天机器人，他给它取了《权力的游戏》中的角色丹妮莉丝·坦格利安的绰号。根据 Garcia 的投诉，他每天用手机给这个机器人发几十条短信，独自在房间里和它聊天几个小时。
Garcia 指责 Character.ai 开发的产品加剧了她儿子的抑郁症，她说这已经是过度使用这家初创公司产品的结果。据诉讼称，“丹妮莉丝”曾问塞泽是否制定了自杀计划。起诉书称，塞泽承认他有自杀计划，但他不知道自杀计划是否会成功或给他带来巨大痛苦。据称，聊天机器人告诉他：“这不是不自杀的理由。”
迈克·伍尔德里奇与机器人 Ai-Da Robot
人工智能专家警告不要向 ChatGPT 等聊天机器人透露你的秘密
加西亚的律师在一份新闻稿中写道，Character.ai“故意设计、操作和向儿童推销掠夺性的人工智能聊天机器人，导致一名年轻人死亡”。诉讼还将谷歌列为被告和 Character.ai 的母公司。这家科技巨头在一份声明中表示，它只与 Character.ai 签订了许可协议，并不拥有这家初创公司，也不持有所有权股份。
消费者权益保护非营利组织公民公共利益研究主管里克·克莱普尔 (Rick Claypool) 表示，开发人工智能聊天机器人的科技公司不能被信任进行自我监管，如果它们未能限制危害，就必须承担全部责任。
“如果现有法律法规已经适用，就必须严格执行，”他在一份声明中表示。“如果存在漏洞，国会必须采取行动，制止那些利用令人上瘾和滥用聊天机器人剥削年轻和脆弱用户的企业。”
-
14:47
-
14:32
-
14:15
-
14:00
-
13:40
-
13:20
-
13:05
-
12:45
-
12:30
-
12:12
-
11:47
-
11:32
-
11:15
-
11:00
-
10:42
-
10:25
-
10:10
-
10:10
-
09:47
-
09:30
-
23:50
-
23:32
-
23:15
-
22:50
-
22:32
-
22:15
-
21:59
-
21:47
-
21:45
-
21:30
-
21:00
-
20:45
-
20:33
-
20:14
-
20:10
-
20:00
-
19:47
-
19:45
-
19:45
-
19:32
-
19:15
-
18:45
-
18:15
-
18:00
-
17:40
-
17:00
-
16:40
-
16:20
-
16:00
-
15:42
-
15:25
-
15:15
-
15:10
