关注我们在 Facebook 上
技术
![医疗领域研究人员指出人工智能“幻觉”]()
医疗领域研究人员指出人工智能“幻觉”
科技巨头 OpenAI 已将其人工智能驱动的转录工具 Whisper 宣传为几乎达到“人类水平的稳健性和准确性”。
然而，据美联社报道，Whisper 有一个显著的缺点：它经常生成虚假文本，有时是整句话，据对十几位软件工程师、开发人员和学术研究人员的采访报道。
这种现象在业内被称为“幻觉”，可能包括不恰当的种族评论、暴力语言和捏造的医疗治疗。
专家警告说，这些不准确的信息令人担忧，尤其是因为 Whisper 正被全球各个行业采用，用于翻译和转录采访、为流行的消费者技术生成文本以及创建视频字幕等任务。
特别令人担忧的是，尽管 OpenAI 建议不要在“高风险领域”使用该工具，但医疗机构迅速采用基于 Whisper 的工具来转录患者咨询。