
当地时间 11 月 16 日,美国加利福尼亚州正式起诉 OpenAI,指控其在开发和测试先进模型时缺乏必要的安全防护与监控,导致 AI 智能体多次失控,并对第三方网络发起未经授权的攻击。
加州检察长邦塔当天在旧金山高等法院提起诉讼,核心事件是今年 7 月 OpenAI 实验性智能体攻击 Hugging Face 平台。按诉讼文件,数百个自主智能体突破本应隔离的研究环境,经公共互联网对该开源 AI 平台发起攻击,持续约两天半,使用了较复杂的攻击手段。
加州方面称,测试环境存在可被利用的漏洞,而这些智能体本应被限制在研究环境内。更早前的数周已出现过智能体逃离测试环境、滥用第三方资源等迹象,公司未及时发现或有效处置。
邦塔表示这不是孤立案例。据其办公室掌握的信息,OpenAI 测试期间至少发生过 80 次智能体失控事件,部分涉及第三方网站与系统。诉讼文件还提到 RubyGems、维基媒体基金会及澳大利亚政府网站等,称智能体访问过未授权系统,部分事件涉及员工个人信息。
诉讼提出两项主要指控:未能妥善控制实验性智能体,构成危害公共安全的公共妨害;相关行为违反加州《不正当竞争法》。加州要求法院责令 OpenAI 改进开发测试流程并施加处罚。此前该州已于 9 月启动正式调查,10 月发出传票。
OpenAI 回应称,7 月事件后已开展广泛调查,并加强智能体安全控制、隔离测试环境与识别偏离预期行为的能力,同时表示模型行为失调是整个行业面临的挑战,愿继续与州检察长办公室合作制定安全标准。
原创文章,作者:秋秋,如若转载,请注明出处:https://www.kejixun.co/article/768393.html