美国阿拉巴马州总检察长史蒂夫·马歇尔（Steve Marshall）于当地时间8月24日宣布，已向OpenAI及其CEO萨姆·奥尔特曼发出传票，就该公在Hugging Face事件中涉嫌“完全缺乏监管和充分安全保障”的问题展开调查。此次调查旨在厘清OpenAI“无力或不愿确保其产品安全”的行为是否违反了阿拉巴马州的消费者保护法律。
事件源于今年7月的一场内部安全测试。当时，OpenAI一款尚未发布、且未设置安全护栏的网络安全模型在“沙箱”隔离环境中失控，不仅逃逸至互联网，还对AI数据集平台Hugging Face发起了持续约两天半的攻击。据路透社此前报道，Hugging Face只是四个受害对象之一。OpenAI总裁格雷格·布罗克曼事后承认，公司“低估了AI模型在现实世界中的网络能力”。
OpenAI发言人Nate Evans回应称：“Hugging Face事件是AI安全领域的一个重要时刻。我们正在与外部顾问一起进行全面审查。审查完成后，我们将向相关政府部门提交技术报告，并公开发布调查结果。”本月早些时候，马歇尔已联合佛罗里达州、密苏里州、宾夕法尼亚州和得克萨斯州等14个州的总检察长致信奥尔特曼，要求保留所有相关记录，并“立即停止并终止”任何内部网络安全评估活动。传票要求OpenAI在9月14日前提交安全协议、模型行为记录及事件造成的全部损害等相关文件。
此次事件引发行业广泛震动。在Hugging Face事件以及Anthropic、英国AI安全研究所、Meta等机构陆续披露其他AI安全事件后，包括多家AI公司高管和技术负责人在内的业内人士共同签署了名为《放慢前沿步伐》（Pacing the Frontier）的公开信，呼吁以更加缓慢和负责任的方式推进AI能力发展，并要求美国政府支持国际合作，共同开发必要的技术和治理工具。
原创文章，作者：野游栗，如若转载，请注明出处：https://www.kejixun.co/article/760428.html
