据路透社报道，微软、谷歌及埃隆·马斯克创办的xAI已与美国政府达成一项新协议，将在新一代人工智能模型正式公开发布前，提前向美方开放模型权限，以便开展国家安全风险审查。美国商务部人工智能标准与创新中心于当地时间周二宣布，该协议允许其在AI模型投入应用前进行评估，并通过专项研究研判模型能力及潜在安全威胁。
此举凸显出华盛顿对高性能AI系统可能带来的国家安全风险日益担忧。美国政府希望提前获取前沿模型权限，在技术大规模普及前识别从网络攻击到军事滥用等各类威胁。近几周，包括Anthropic公司Mythos在内的先进AI系统引发全球热议，官员和业界普遍担忧这类模型会极大助长黑客攻击能力。人工智能标准与创新中心主任克里斯·福尔表示，独立且严谨的量化评测体系对摸清前沿AI技术及其安全影响至关重要。
此次合作是在2024年拜登政府与OpenAI、Anthropic达成相关协议的基础上进一步扩展而来。作为美国政府AI模型测试的核心机构，该中心已完成了40余次模型评估，其中涵盖多款尚未向公众开放的尖端模型。企业开发者常会提交移除安全防护机制的模型版本，供中心深入排查风险。此外，美国国防部上周宣布与七家AI企业达成合作，将其技术部署至涉密网络，但Anthropic因军方使用权限和安全约束问题未列入名单。
原创文章，作者：李小白，如若转载，请注明出处：https://www.kejixun.co/article/751949.html
