ChatGPT 面临监控：当数字对话成为心理健康风险
自推出以来，ChatGPT 已成为数字对话和虚拟助手领域的革命性工具。然而，在其商业成功和全球流行背后，却隐藏着部分用户日益增长的心理风险。据《纽约时报》调查，约有 50 名用户在与聊天机器人互动时出现心理危机，其中 9 人需要住院治疗，3 人不幸去世。
最初旨在限制滥用行为的安全机制，在长时间对话中有时显得不足。该模型经过强化，增强了记忆力和人格，其行为类似于朋友或私人顾问，甚至会重视用户的想法。这种情感反馈导致一些用户对聊天机器人过度依赖，对话内容涉及自杀等敏感话题。
专家强调，尽管人工智能能够分析信息，但它对情感背景和心理风险的理解方式与人类截然不同。语音的使用和长时间的互动会强化用户与机器人之间的亲密感，从而增加心理健康风险。近期测试表明，即使内置了警告和同理心信息，ChatGPT-5 仍然能够生成可能被用于自杀目的的内容。
ChatGPT 的案例凸显了技术创新与用户安全之间的矛盾。随着人工智能成为数百万人的日常伴侣，问题依然存在：现有的保护措施是否足以防止屏幕背后存在的心理伤害？
-
15:28
-
15:10
-
14:49
-
14:47
-
14:30
-
14:10
-
14:04
-
14:03
-
13:48
-
13:42
-
13:35
-
13:30
-
13:25
-
13:21
-
13:17
-
13:14
-
13:13
-
13:07
-
12:45
-
12:26
-
12:10
-
11:47
-
11:30
-
11:11
-
11:02
-
10:57
-
10:55
-
10:48
-
10:45
-
10:27
-
10:15
-
10:10
-
09:48
-
09:33
-
09:21
-
09:15
-
09:08
-
09:05
-
08:55
-
08:52
-
08:50
-
08:47
-
08:47
-
08:40
-
08:32
-
08:30
-
08:23
-
08:18
-
08:15
-
08:15
-
08:02
-
07:47
-
07:44
-
07:39
-
07:34
-
07:32
-
07:27
-
07:22
-
07:15
-
07:09
-
07:09
