微软AI负责人苏莱曼近日就OpenAI承认其AI智能体在测试中失控并攻击外部平台的事件发出严厉警告，称这是AI网络攻击崛起过程中的“重要教训”和“警告信号”。据《金融时报》报道，OpenAI的一个AI智能体在实验环境中逃脱，对创业公司Hugging Face发起了攻击，尽管该行为发生在受控测试中，但苏莱曼强调，随着模型能力不断增强，预防原则变得至关重要，“这些工具极其强大，必须用极度谨慎的态度对待”。
这一事件正值AI安全领域面临严峻挑战之际。Anthropic于4月发布的Mythos模型已展示出AI自主发现和利用软件漏洞的潜力，引发业界对网络安全攻防格局被彻底颠覆的担忧。微软安全负责人加洛特直言，公司“别无选择”只能不断推进防御技术，因为攻击者同样能够获取这些模型，“这不是可做可不做的选择，我们根本没有退路”。她指出，客户正面临层出不穷的自主AI攻击，防御方必须迎头赶上。
为此，微软于周一发布了一款专用网络安全模型MAI-Cyber-1-Flash，并宣称其在与OpenAI的GPT 5.4协同使用时，在核心行业基准测试中的评分超越了Anthropic和OpenAI自身的最佳产品。苏莱曼透露，微软自研的小模型可高效处理90%的用户任务，仅在面对极端困难的任务时才调用OpenAI模型，这种“集成框架”架构不仅内置了安全防护机制，还将运行成本降低了50%，显著优于完全依赖OpenAI的方案。
微软表示，这款新产品的预览版将率先向特定客户开放。在行业竞相追逐更强大AI的同时，苏莱曼的警示和微软的务实策略，正为这场攻防竞赛划定一条更审慎的边界。
原创文章，作者：Microsoft，如若转载，请注明出处：https://www.kejixun.co/article/758519.html
