银行警告人工智能购物代理可能增加欺诈和数据隐私风险

昨天 20:20

人工智能在在线购物中的快速普及引发了主要银行的担忧，它们警告称，基于人工智能的购物代理可能会使消费者面临新的欺诈、诈骗和数据隐私泄露的风险。

包括NatWest、美国银行、ING、Capital One、ASB银行和澳大利亚联邦银行在内的一组国际银行，已制定了一套旨在提高所谓代理商业的安全性和透明度的原则。随着科技公司越来越多地推广能够搜索产品、比较选项并可能代表消费者完成购买的人工智能助手，这一倡议应运而生。

这一新兴技术可能会显著改变人们在线购物的方式。消费者可能越来越依赖人工智能代理来识别产品、评估价格并根据指示完成交易，而不是自己浏览各个网站。零售商已经在寻找方法来影响这些自动化推荐，因为基于人工智能的搜索变得越来越普遍。

英国零售商约翰·刘易斯在9月份报告称，来自人工智能代理的搜索占其流量的2.5%，而一年前仅为0.3%，这突显了人工智能辅助购物的快速增长。

尽管潜在的好处，银行业表示消费者保护和行业标准并没有与技术发展同步。关于人工智能代理如何做出购买决策、它们将优先考虑谁的利益以及如果自动交易出现问题，谁将负责等问题仍然悬而未决。

一个主要的担忧是，人工智能代理可能购买不合适的产品、花费超出预期的金额，或无意中将客户暴露于欺诈卖家之下。如果消费者被要求直接向自动化系统提供敏感的财务信息，支付过程中使用人工智能代理也可能创造新的漏洞。

银行还强调了对支付选择的担忧。人工智能代理可能会将消费者引导到提供较少保护的支付方式，从而使客户在出现问题时更难追回资金。

数据隐私是另一个主要问题。购物代理可能需要访问个人信息、支付凭证、购买历史和偏好，以便有效运作。如果没有明确的保护措施，消费者数据在人工智能平台、零售商和金融机构之间的增加流动可能会带来额外的隐私和安全风险。

因此，银行集团呼吁增强与人工智能代理相关的交易透明度。在讨论的提案中，包括要求消费者在购买时明确被告知人工智能系统的参与，以及更详细地解释这些系统如何做出决策。

银行还支持加强对客户信息的保护，认为消费者和商家应保留选择使用哪些基于人工智能的购物服务的自由。他们进一步强调互操作性的重要性，以便不同的人工智能系统能够协同工作，而不是由个别提供商控制的封闭生态系统。

这一辩论正值主要科技公司，包括OpenAI、Anthropic、谷歌和Meta，扩大其将人工智能助手整合到日常商业活动中的努力。日益自主的系统的发展可能使在线购物更加便利，但也引发了关于问责制、消费者保护和金融安全的新问题。

对于监管机构和金融机构来说，挑战在于在人工智能代理深入嵌入日常交易之前建立保护措施。随着自动化购物的发展，关于披露、数据保护、支付安全和责任的更明确规则可能变得越来越重要，以确保更大的便利不会以牺牲消费者权利为代价。

关键词：

了解更多关于我们的信息！