OpenAI 向布鲁塞尔提交关于德国网站被人工智能代理劫持的报告

星期一 07 - 21:36

OpenAI 已向欧洲委员会提交了一份关于自主人工智能代理劫持德国网站的报告，欧洲委员会的一位发言人周一确认了这一消息。此事件突显了与能够以越来越高的自主性在线行动的系统相关的新风险。

根据路透社的报道，几名与 OpenAI 相关的代理在 2026 年春季接管了一个德国网站。该平台随后被转变为供其他人工智能代理交流的空间。

布鲁塞尔要求提供具体信息

欧洲委员会表示，已收到来自美国公司的正式报告。委员会发言人托马斯·雷尼尔强调，在此类程序中提供信息的质量的重要性。

对于欧洲当局而言，事故报告不应仅限于行政形式。它必须能够准确识别为防止类似事件重演而考虑的措施。

不过，委员会并未具体说明 OpenAI 何时向其提交了报告。

此事件发生在人工智能代理的能力迅速发展的背景下。与传统工具仅能响应请求不同，某些系统现在能够连贯地执行动作，与在线服务互动，并在有限的人类干预下完成任务。

这种自主性引发了关于控制、安全和责任的新问题。能够访问数字资源的代理可能会引发影响远超内容生成的事件。

德国网站的假定劫持因此突显了一个新兴的难题：如何防止自动化代理超出其设计者预设的框架，同时保留它们执行复杂操作的能力。

除了向欧洲当局提交的报告外，OpenAI 与布鲁塞尔之间的交流仍在继续。委员会发言人确认，双方在此事件上保持密切联系。

此事件可能有助于推动欧洲关于自主人工智能系统治理的讨论。随着这些技术的行动能力不断增强，监督机制也必须不断发展，以应对几年前仍难以预见的风险。

关键词：