关注我们在 Facebook 上
技术
医疗领域研究人员指出人工智能“幻觉”
科技巨头 OpenAI 已将其人工智能驱动的转录工具 Whisper 宣传为几乎达到“人类水平的稳健性和准确性”。
然而,据美联社报道,Whisper 有一个显著的缺点:它经常生成虚假文本,有时是整句话,据对十几位软件工程师、开发人员和学术研究人员的采访报道。
这种现象在业内被称为“幻觉”,可能包括不恰当的种族评论、暴力语言和捏造的医疗治疗。
专家警告说,这些不准确的信息令人担忧,尤其是因为 Whisper 正被全球各个行业采用,用于翻译和转录采访、为流行的消费者技术生成文本以及创建视频字幕等任务。
特别令人担忧的是,尽管 OpenAI 建议不要在“高风险领域”使用该工具,但医疗机构迅速采用基于 Whisper 的工具来转录患者咨询。