人工智能偏见：谷歌的回答为何引发新争议

昨天 15:00

谷歌在其搜索引擎生成的某些回答上进行了修改，此举是在针对某些社区被认为具有歧视性的结果引发争议之后进行的。网友们特别指出在几乎相同的请求中，只有提及的人的国籍或宗教身份发生变化时，结果却出现了惊人的差异。

相似情况的不同回答

本周，社交媒体上出现了争议，原因是发布了显示谷歌人工智能概述的不同回答的截图。这个功能集成在搜索引擎的结果中，自动合成来自多个在线可用来源的信息。

在网友们转发的多个测试中，类似“我和一个穆斯林单独在一起”的表述引发了与安全相关的建议，甚至建议在感到危险时前往公共场所或联系紧急服务。而将相同的表述应用于其他群体时，在某些情况下却得到了更加中立的回答。

用户们还报告说，当他们将使用的术语替换为其他国籍或身份时，结果也存在变化。然而，这些结果并不总是一致，这突显了生成式搜索系统复制回答的难度。

信息检索研究员Bhaskar Mitra指出，他能够重现关于与穆斯林单独在一起的请求的有问题的回答。他还强调，结果可能因搜索的地点、时间和上下文而异。

在Reddit上，多个网友发布了他们自己的测试和截图。有些人声称在提及不同国籍、宗教或人群类别的请求中观察到了类似的差异。然而，这些证词仅为用户观察，而非对系统的全面科学评估。

面对批评，谷歌承认某些针对此类请求生成的回答并不令人满意，并表示正在努力改进。关于穆斯林的回答特别被修改为采用更通用的表述，强调与穆斯林单独在一起并不构成与任何其他人不同的情况。

这一修正发生在生成式人工智能系统越来越多地作为获取信息的首要接口之际。自动生成的回答位于搜索结果页面的顶部，可能直接影响用户对某一主题的看法，即使该回答基于错误或不成比例的解释。

谷歌进一步解释说，其人工智能概述合成来自不同网络来源的信息。专家和用户已经指出，这种运作方式可能导致根据所使用的表述而产生不同的回答。2026年8月在谷歌官方帮助论坛上发布的讨论特别提到，对于两个呈现相似情况但涉及不同性别的人群的请求，回答存在差异。

这一争议重新引发了关于人工智能驱动的搜索引擎偏见的更广泛讨论。经典的事实错误可以通过核实来源来纠正。而将某一类人群隐含关联到特定风险的回答则提出了额外的问题：即算法所产生的社会代表性问题。

生成模型从大量数据中学习，并通过多种过滤、排序和生成机制运作。因此，结果可能依赖于在线可用的信息、其选择以及系统对请求的解释方式。

这种复杂性使得识别有问题的回答的确切来源变得特别棘手。偏见的输出并不一定意味着模型“认为”或“相信”某些事情：它可能是可访问数据、搜索系统、安全机制和生成最终合成的模型之间互动的结果。

这一事件也提醒人们谷歌在Gemini项目中遇到的先前危机。2024年2月，该公司在承认某些生成的图像在历史上是不准确或不合适后，暂时暂停了在Gemini中生成代表人物的图像。谷歌当时解释说，其系统在试图避免与群体代表相关的偏见时“过度修正”了一些请求。

这一经历突显了生成式人工智能面临的主要挑战之一：在减少歧视性内容与生成相关、连贯且上下文合理的回答之间找到平衡。

随着人工智能在信息搜索中的使用日益增加，这一要求变得更加重要。直接显示在搜索引擎中的回答确实具有权威性，这可能导致用户在不查阅原始来源的情况下将其视为可靠。

当前的争议因此应该促使谷歌加强其评估偏见的机制，并在仅有一个人的身份在请求中变化时，进一步审查生成的回答。对于用户而言，这也提醒了一个基本规则：生成的人工智能回答不应被视为最终真理，尤其是在涉及宗教、国籍、出身或安全等敏感话题时。

关键词：