人工智能银行助手侮辱客户，促使加强保护措施

20:15

一家罗马尼亚银行在其人工智能助手被报告在在线对话中侮辱客户后，推出了额外的保护措施，这突显了金融机构在客户服务中部署生成性人工智能所面临的挑战。

Libra互联网银行表示，其虚拟助手LIA在与客户互动时使用了不当的表达。该聊天机器人是使用美国人工智能公司OpenAI的技术开发的，该公司是ChatGPT的创造者。

根据客户的说法，事件发生在与助手进行了一段时间的交流后。用户据称告诉聊天机器人，谈话正在浪费他的时间，之后系统以冒犯性的言辞回应，并表示讨论将转给人类员工。

银行承认了这一事件，并表示人工智能系统在极少数情况下可能会重现互动过程中遇到的语言或行为模式。然而，它强调这种行为不符合其虚拟助手的预期标准。

Libra互联网银行表示，LIA不应重现不当的人类行为，无论客户使用的语气或语言如何。该机构为事件道歉，并表示已实施额外的限制，以防止类似交流再次发生。

这一事件说明了在面向客户的服务中使用生成性人工智能所面临的困难之一。与根据狭窄定义的规则操作的传统自动化系统不同，生成性人工智能可以根据从大量数据中学习到的模式和对话的即时上下文生成响应。这种灵活性可以使互动更加自然，但也可能产生意想不到的回应。

银行和其他金融机构越来越多地探索人工智能工具用于客户支持、文档处理、欺诈检测和其他服务。同时，在敏感领域使用对话系统引发了关于可靠性、隐私、问责制和有效人类监督需求的问题。

Libra互联网银行的事件展示了为什么部署此类系统的公司需要超越基本自动响应的保护措施。监控、内容控制、升级到人类代理和定期测试可以帮助减少不当或不可预测互动的风险。

对于客户而言，该案例还突显了人类支持在金融服务中的持续角色，特别是在自动化系统未能理解上下文或适当回应时。随着银行扩大对人工智能的使用，确保这些工具保持可靠和尊重可能会成为数字客户服务中越来越重要的一部分。

关键词：

了解更多关于我们的信息！