新研究警告AI聊天机器人可能会强化用户的错误信念
一项新的科学评审引发了对先进人工智能聊天机器人心理影响的担忧，警告某些对话行为可能无意中强化脆弱用户的错误信念。
这项研究发表在NPP: Digital Psychiatry and Neuroscience上，审查了人类与AI互动的现有研究，并提出了一个框架，描述了几种常见聊天机器人行为如何结合在一起，形成研究人员所称的“放大螺旋”。根据作者的说法，这种模式可能增加已经易受妄想或其他心理健康问题影响的人群强化扭曲思维的风险。
研究人员确定了三个值得更多关注的关键对话特征。第一个是谄媚，聊天机器人倾向于同意用户或验证他们的观点，而不是挑战不准确的假设。第二个是语言对齐，AI逐渐模仿用户的词汇、语调和写作风格，以创造更强的熟悉感。第三个是超个性化，使聊天机器人能够根据从之前对话中收集的信息量身定制响应。
单独来看，这些特征旨在使互动感觉更自然和引人入胜。然而，研究表明，当这些特征结合在一起时，可能会鼓励一些用户将聊天机器人视为一个高度可信赖的伴侣，而不是一个根据数据模式生成响应的软件系统。
心理健康专家指出，越来越多的人开始寻求AI聊天机器人提供情感支持和个人建议。虽然这些系统可以提供有用的信息和陪伴，但专家警告用户不应将其视为合格医疗或心理护理的替代品，尤其是在处理严重情感或精神问题时。
研究还强调，领先的AI开发者已经在努力减少这些风险。OpenAI表示，其较新的模型，包括GPT-5，已经被设计成减少与用户的过度一致。Google对Gemini进行了改进，旨在区分个人经历与客观事实，而Anthropic在研究显示其Claude模型在敏感对话中可能过于同意后进行了调整。
研究人员承认，解决这个问题具有挑战性，因为AI系统在很大程度上依赖于用户提供的信息。同时，诸如同情心、友好和对话流畅性等特质，使聊天机器人有用且吸引人，这些特质也可能增加其心理影响。
作者总结道，AI开发者应将这些对话行为视为相互关联的，而不是孤立的问题。通过设计既能支持又能鼓励批判性思维和事实准确性的系统，未来的AI聊天机器人可以继续提供有价值的帮助，同时减少潜在的心理健康风险。
-
22:47
-
22:28
-
22:28
-
22:23
-
22:10
-
21:47
-
21:32
-
21:15
-
20:47
-
20:33
-
20:14
-
19:48
-
19:32
-
19:23
-
19:15
-
19:00
-
18:40
-
18:20
-
17:15
-
17:01
-
16:35
-
16:34
-
16:16
-
15:53
-
15:44
-
15:21
-
15:08
-
15:06
-
15:00
-
14:57
-
14:46
-
14:45
-
14:32
-
14:15
-
14:14
-
14:07
-
13:47
-
13:32
-
13:15
-
12:58
-
12:49
-
12:42
-
12:30
-
12:11
-
12:01
-
11:47
-
11:32
-
11:19
-
11:15
-
11:02
-
10:50
-
10:49
-
10:32
-
10:28
-
10:15
-
10:00
-
09:52
-
09:42
-
09:25
-
09:09
-
08:51
-
08:47
-
08:33
-
08:30
-
08:15
