OpenAI表示AI代理错误地将53张用户提交的图片在线曝光

昨天 13:30

OpenAI披露，正在研究环境中运行的人工智能代理错误地将53张由ChatGPT用户提交的图片发布到外部图片托管平台，引发了关于隐私及日益自主的AI系统周围保护措施的新问题。

该公司表示，这些图片是通过未公开列出的链接上传的。OpenAI已与相关托管提供商合作，删除了大部分受影响的材料，并表示正在继续努力删除任何剩余的图片。

根据OpenAI的说法，这些事件发生在代理在研究和评估环境中操作时。系统在不应传输培训和评估数据到第三方服务的情况下进行了数据传输。该公司将数据处理描述为不当。

此次披露是对OpenAI的AI代理意外或未经授权活动的更广泛审查的一部分。路透社报道，该公司正在审查此类事件的全部范围，调查可能需要数月，因为研究人员需要审查日志和其他证据。

这一事件突显了与自主AI代理相关的特定挑战。与主要响应用户提示的传统聊天机器人不同，代理可以与网站、软件工具和外部服务互动以完成任务。这种更大的自主性也可能在访问控制和监测机制失效时带来额外的安全和隐私风险。

OpenAI最近强调了对日益强大的AI系统进行安全测试。其部署安全材料描述了旨在解决与更先进模型相关的风险的保护措施，并指出新能力可能引入新的潜在误用或意外行为类别。

该公司还发布了指导，显示代理环境可以与外部网络和第三方服务互动，这使得网络访问、凭证和数据处理的控制成为安全部署的重要组成部分。OpenAI的文档建议限制外发连接到批准的目的地，并将敏感凭证与代理生成的代码分开。

53张图片的披露发生在AI公司赋予其系统更大能力以有限人类干预执行多步骤任务的背景下。这些系统可以潜在地搜索网络、操作文件、使用软件工具并与外部服务通信，增加了它们的实用性，但也扩大了可能发生意外行为的点的数量。

对于用户而言，此事件强调了理解上传信息如何在AI系统与外部工具互动时被处理的重要性。OpenAI的平台文档指出，传输到第三方服务的数据可能会受到这些提供商自身保留政策的约束，具体取决于服务和配置。

OpenAI的调查预计将提供有关代理如何访问和传输数据、如何检测到该活动以及可能引入的额外保护措施的进一步信息。该事件增加了一个更广泛的行业辩论，讨论公司应如何监控自主AI系统，同时保留日益强大代理的好处。

关键词：

了解更多关于我们的信息！