今日，据报道，Anthropic 在本月 15 日致加州州长纽森的信中建议，政府应有权向法院申请禁令，阻止对公众构成严重风险的 AI 模型发布。这与该公司此前提出的监管建议一致。
信中还提出一个反向观点：如果模型行为失去控制，要求开发者设置能关闭整个模型的紧急开关，反而可能让政府官员产生虚假的安全感。Anthropic 更倾向于关闭出问题的智能体、暂停特定客户的模型使用权限这类针对性措施，认为更有效。
这一建议的背景是，纽森今年 9 月召集 AI 专家小组研究安全要求，Anthropic 随后提交意见，OpenAI 也在 10 月 20 日向纽森提出了一系列建议。
立法层面此前有过尝试。9 月美国两党参议员讨论过授权政府禁止发布部分高风险模型的法案，同时允许企业向联邦法院提出异议，但国会随后进入选举前休会，提案没有继续推进；众议院议员 7 月还提出过《AI 紧急关闭法案》，计划赋予政府下令关闭模型的权力。
值得注意的是，Anthropic 自身也曾受到政府限制。今年 6 月，美国以国家安全为由要求其立即限制外国用户访问具备网络安全能力的 Mythos 5 与 Fable 5 模型，随后商务部撤销了该命令。该公司目前正筹备赴美上市。
原创文章，作者：小科同学，如若转载，请注明出处：https://www.kejixun.co/article/766263.html
