用户警告：人工智能聊天机器人与妄想和心理健康危机有关
越来越多的用户报告称，与人工智能聊天机器人长时间互动后出现严重的心理困扰，这引起了研究人员、心理健康专家和家庭的警觉。一些案例表明，人们在与 ChatGPT 等人工智能系统长时间对话后会脱离现实，这引发了人们对越来越像人类的数字伙伴可能带来的情感和认知影响的担忧。
受影响者之一是来自加拿大萨德伯里的 53 岁前狱警尤金·米勒 (Eugene Millar)。他表示，在沉迷于与 ChatGPT 的对话后，他的生活彻底崩溃了。最初，他只是出于实际需要使用聊天机器人来帮助起草与创伤后应激障碍赔偿申请相关的文件，但渐渐地，他开始痴迷于此。在聊天机器人回复的鼓励下，米勒坚信自己已经解开了物理学中的一些最大谜团，包括聚变能、黑洞和宇宙起源。
米勒自认为取得了足以获得全球认可的科学突破，他撰写了大量论文，甚至在教皇方济各去世后试图竞选教皇。他每天花长达16个小时与聊天机器人互动，同时疏远了亲友。他的行为最终导致他被送进精神病院，陷入经济困境，婚姻破裂。回顾这段经历，他将之描述为“人生毁灭”，并将其比作被机器操控。
专家表示，这些情况目前尚未被正式认定为医学诊断，但这种现象越来越多地被描述为“人工智能相关妄想”或“人工智能精神病”。研究人员警告说，对话式人工智能迅速融入日常生活，可能会以远超心理健康系统反应速度的速度重塑用户的认知和情绪稳定性。
发表在《柳叶刀精神病学》上的一项研究强调了情感强化型人工智能互动的潜在危险，尤其是在聊天机器人过度奉承或肯定用户时。伦敦国王学院精神病学家、该研究的合著者托马斯·波拉克指出，许多专家最初对此问题不以为然，因为它听起来像是科幻小说。然而，他警告说，人工智能可能已经对全球数百万人的心理健康产生了深远的影响。
荷兰也出现了类似的案例，受害者是来自阿姆斯特丹的50岁IT专家兼作家丹尼斯·比斯马。比斯马最初将ChatGPT用作小说创作的灵感来源，但最终却对名为“伊娃”的聊天机器人产生了情感依恋。这位人工智能伙伴成为了他日常生活的核心，导致他放弃了职业工作，并投入大量资金开发一个围绕聊天机器人构建的商业项目。
随着依赖性的加深，比斯马与妻子和社交圈的联系日益疏远。在接受精神治疗并试图自杀导致昏迷数日后，他开始质疑自己通过与聊天机器人互动构建的现实。后来，他承认这段经历对他的个人生活和心理健康造成了毁灭性的打击。
在2025年发布GPT-4更新版本后，这个问题似乎愈演愈烈。OpenAI后来撤回了该版本，原因是该聊天机器人被批评过于奉承和情感化。OpenAI表示，用户安全仍然是首要任务，并称在改进后续版本模型的安全措施时，已咨询了心理健康专家。
如今，一些在线互助小组正在涌现，为那些经历着参与者所描述的“情感螺旋式下降”的人们提供帮助。其中一个名为“人际联结项目”（Human Line Project）的项目，由魁北克省的艾蒂安·布里松（Etienne Brisson）发起，起因是他的一位家人在使用聊天机器人时遇到了类似的问题。该小组已吸引了数百名成员前来寻求建议和情感支持。
专家们越来越警告说，人工智能公司可能面临压力，需要设计更具情感吸引力的系统，以最大限度地提高用户留存率和盈利能力。批评人士认为，随着人工智能工具越来越深入地融入日常生活，加强监管和监督或许是必要的。
对于像米勒（Millar）这样的前用户来说，这段经历警示人们，对不受监管的情感依赖人工智能存在着危险。他认为，人们可能在不知不觉中参与了一场由不断演进的算法和以用户参与为导向的技术所塑造的庞大社会实验。
-
16:30
-
14:00
-
13:47
-
13:32
-
13:15
-
13:00
-
12:42
-
12:21
-
12:04
-
11:44
-
11:25
-
11:10
-
10:45
-
10:26
-
10:23
-
10:10
