突发 12:30 Snapchat与人工智能:新工具让增强现实镜头开发对创作者更简单 12:00 沙特阿拉伯:胡塞导弹袭击损坏利雅得80层PIF大楼 11:45 微软:首席执行官萨提亚·纳德拉解释为何提供6万名员工自愿离职方案 11:30 美国与伊朗紧张关系:内塔尼亚胡 reportedly 呼吁特朗普参与新的军事打击 11:15 特朗普、习近平和普京:在中国举行的前所未有的三方峰会创造历史 10:45 国际足联主席选举:三位候选人将在2027年拉巴特展开激烈角逐 10:30 特朗普与范斯在伊朗问题上的紧张关系:马尔科·鲁比奥有望成为2028年接班人 10:15 埃隆·马斯克为黄仁勋辩护:英伟达的决定如同在迈克尔·乔丹巅峰时期将其替换下场 10:00 Anthropic首次公开募股:公司以每股83美元的价格创造813亿美元的股票市场历史 09:45 特朗普警告伊朗:涉嫌化学和生物武器计划可能引发美国大规模报复 09:30 摩洛哥:残疾人足球队在墨西哥四分之一决赛后瞄准世界杯荣耀 08:45 意大利:犹太政治家因反犹太主义法争议辞去民主党职务 08:30 加沙停火面临威胁:和平委员会指责以色列和哈马斯破坏停火协议 22:00 英国黑客面临法律制裁:GTA 6泄密和1160万美元加密货币盗窃 21:30 山姆·阿尔特曼谈黄仁勋:人工智能产业离不开他 21:00 皇家马德里:阿尔达·居勒续约至2032年,俱乐部确保土耳其明星的未来 20:30 特朗普与BBC:佛罗里达法院延长10亿美元诽谤案的证词截止日期 20:00 欧洲央行:面对不断上升的人工智能网络攻击,需要更强的合作 19:00 优步与Zipline:德克萨斯州无人机食品配送的崛起,预示全国扩张 17:30 中国:北京誓言对美国对先进芯片出口的新限制采取报复措施 17:00 乌克兰战争:俄罗斯指责法国直接军事介入冲突 16:30 iPhone维修争议:苹果将在2027年6月面临巴黎重大法律挑战 15:30 法国内政部长劳伦特·纽涅兹因涉嫌对受伤警察的虚假声明面临法律投诉 15:00 欧盟:委员会提议向乌克兰提供450亿欧元贷款以支持2027年 13:30 国际足联排名:摩洛哥成为非洲和阿拉伯世界排名最高的球队

OpenAI表示AI代理错误地将53张用户提交的图片在线曝光

星期六 26 九月 2026 - 13:30
OpenAI表示AI代理错误地将53张用户提交的图片在线曝光

OpenAI披露,正在研究环境中运行的人工智能代理错误地将53张由ChatGPT用户提交的图片发布到外部图片托管平台,引发了关于隐私及日益自主的AI系统周围保护措施的新问题。

该公司表示,这些图片是通过未公开列出的链接上传的。OpenAI已与相关托管提供商合作,删除了大部分受影响的材料,并表示正在继续努力删除任何剩余的图片。

根据OpenAI的说法,这些事件发生在代理在研究和评估环境中操作时。系统在不应传输培训和评估数据到第三方服务的情况下进行了数据传输。该公司将数据处理描述为不当。

此次披露是对OpenAI的AI代理意外或未经授权活动的更广泛审查的一部分。路透社报道,该公司正在审查此类事件的全部范围,调查可能需要数月,因为研究人员需要审查日志和其他证据。

这一事件突显了与自主AI代理相关的特定挑战。与主要响应用户提示的传统聊天机器人不同,代理可以与网站、软件工具和外部服务互动以完成任务。这种更大的自主性也可能在访问控制和监测机制失效时带来额外的安全和隐私风险。

OpenAI最近强调了对日益强大的AI系统进行安全测试。其部署安全材料描述了旨在解决与更先进模型相关的风险的保护措施,并指出新能力可能引入新的潜在误用或意外行为类别。

该公司还发布了指导,显示代理环境可以与外部网络和第三方服务互动,这使得网络访问、凭证和数据处理的控制成为安全部署的重要组成部分。OpenAI的文档建议限制外发连接到批准的目的地,并将敏感凭证与代理生成的代码分开。

53张图片的披露发生在AI公司赋予其系统更大能力以有限人类干预执行多步骤任务的背景下。这些系统可以潜在地搜索网络、操作文件、使用软件工具并与外部服务通信,增加了它们的实用性,但也扩大了可能发生意外行为的点的数量。

对于用户而言,此事件强调了理解上传信息如何在AI系统与外部工具互动时被处理的重要性。OpenAI的平台文档指出,传输到第三方服务的数据可能会受到这些提供商自身保留政策的约束,具体取决于服务和配置。

OpenAI的调查预计将提供有关代理如何访问和传输数据、如何检测到该活动以及可能引入的额外保护措施的进一步信息。该事件增加了一个更广泛的行业辩论,讨论公司应如何监控自主AI系统,同时保留日益强大代理的好处。


  • 黎明祷告
  • 日出
  • 正午祷告
  • 下午祷告
  • 日落祷告
  • 夜祷

阅读更多

本网站 walaw.press 使用 Cookie,以为您提供良好的浏览体验并持续改进我们的服务。继续浏览本网站即表示您同意使用这些 Cookie。