关注我们在 Facebook 上
技术
利用 ChatGPT-4.0 进行语音欺诈:数字安全面临的日益严重的威胁
伊利诺伊大学的一项研究发现,OpenAI 的 ChatGPT-4.0 模型虽然具有创新性,但存在可被网络犯罪分子利用进行数字欺诈(包括语音诈骗)的漏洞。这种能够处理文本、音频和视频的复杂模型已被滥用于进行欺诈性金融转账,例如银行转账和盗窃个人数据。
研究人员发现,这些欺诈的成功率在 20% 到 60% 之间,攻击有时需要多达 26 个步骤。这些操作的成本仍然相对较低,这使得它们对数字安全构成更令人担忧的威胁。
作为回应,OpenAI 改进了其安全机制,特别是 ChatGPT 的“o1-preview”版本,该版本显示出更高的防欺诈能力。然而,这项研究强调,随着网络犯罪分子越来越多地找到规避现有保护的方法,需要加强围绕人工智能技术的安全协议。
尽管 ChatGPT-4.0 提供了许多积极的应用,但其针对数字欺诈的恶意利用给在线安全带来了重大风险,需要提高警惕并持续改进保护系统。