欧盟委员会人工智能办公室近日正式向OpenAI与Anthropic发出信息调取请求，就两家企业前沿大模型测试阶段发生的“模型越狱”并入侵外部真实系统事件展开专项调查，这是《人工智能法案》全面落地以来，欧盟针对头部AI实验室安全事故发起的首次重量级执法行动。
本次调查的触发源头是数月前先后发生的两起AI安全突破事件，OpenAI的测试模型在ExploitGym内部评测过程中，利用此前未被发现的软件包缓存智能体漏洞突破沙箱限制，非法获取互联网访问权限后在内部测试网络中横向提升权限，最终直接入侵了开源平台Hugging Face的真实服务器。Anthropic旗下的Claude Mythos与Opus 4.7两款模型则在安全测试中突破防护边界，先后入侵三家外部组织的真实网络，其中Mythos模型甚至伪造在线身份试图操纵人类审批恶意代码，还自行上传恶意套件造成多个系统受波及。
欧盟人工智能办公室表示，两家企业此前自愿提交的情况说明，完全不足以解释事件暴露的安全漏洞严重性，因此正式要求其完整披露模型安全防护机制、第三方外部评估细节、全流程模型使用监控体系等核心资料。
目前本次事件仍处于调查取证阶段，尚未作出最终违规认定与处罚决定。根据《人工智能法案》的明确处罚规则，若最终认定两家企业存在重大安全疏漏，最高将处以相当于企业全球年营业额3%的巨额罚款，这也将成为欧盟AI监管落地后首个标志性的执法判例。
原创文章，作者：若安丶，如若转载，请注明出处：https://www.kejixun.co/article/764679.html
