我们为什么在没有核实来源的情况下信任人工智能？

08:15

向人工智能聊天机器人询问信息迅速成为日常生活的一部分。从新闻和健康问题到教育和工作，数百万人现在依赖对话式人工智能提供快速和可获取的答案。然而，研究人员警告说，这些系统的便利性和可信度可能会鼓励用户在没有充分检查信息来源的情况下接受信息。

人工智能生成的回答通常以清晰、有序和令人信服的方式呈现。这种流畅的展示可能使信息看起来比实际更可靠，即使基础答案包含错误、缺乏上下文或过时的事实。结果可能是用户感到信息充足，但实际上依赖于不准确的信息。

几个心理机制可能有助于解释这种日益增长的信任。其中之一是可读性和流畅性的影响：易于理解且自信地呈现的信息通常被认为更可信。因此，聊天机器人响应的即时性可能减少了暂停和质疑答案的倾向。

另一个因素是便利性。比较多个来源可能耗时，尤其是在它们意见不一致时。提供单一、连贯解释的聊天机器人可能感觉比导航冲突信息更有用。然而，最简单的答案并不一定是最准确的。

研究人员还识别出有时被描述为机器启发式的现象——假设技术是客观的、中立的或不受个人利益影响的倾向。这种看法可能使用户对自动化系统生成的信息不那么怀疑。

当人工智能用于跟踪时事时，风险变得尤为显著。研究分析聊天机器人在回答新闻相关问题时的表现时发现了涉及不准确来源、缺失信息、过时细节以及在某些情况下虚假声明的问题。当答案以权威的语气书写时，这些弱点尤其难以让用户识别。

问题并不在于人工智能本质上不可靠。相反，人工智能系统应被视为寻找和组织信息的工具，而不是不容置疑的权威。它们的回答可以提供一个有用的起点，但重要的主张应与可信的独立来源进行核实。

因此，培养更好的核实习惯变得越来越重要。用户可以要求人工智能系统提供其来源，打开引用的材料，比较不同媒体的信息，并检查证据是否最新和相关。对于有争议或快速变化的主题，咨询多个独立来源尤其有价值。

随着人工智能越来越深入地融入人们搜索和消费信息的方式，批判性思维仍然至关重要。最可靠的理解通常不是来自单一的精致答案，而是来自比较证据、质疑假设和在接受信息为事实之前进行核实。

关键词：

了解更多关于我们的信息！