今日,OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,启动首阶段嵌入式评估项目,共同开展模型可解释性与安全评估。

按安排,Goodfire 将派遣可解释性研究人员进驻 OpenAI,使用自有分析平台监测训练过程、排查非预期行为,并获得模型内部信号、训练检查点、源代码及相关技术资源的深度访问权限。合作重点是模型取证,也就是通过分析模型内部计算过程,发现传统监控手段容易遗漏的异常。
OpenAI 称,嵌入式评估允许独立专家在较长周期内接触实验室内部模型与系统,除检查点和数据外,还可查阅监控系统、技术文档,并与负责相关工作的研究与工程人员沟通。评估结果主要供内部团队用于改进安全性,Goodfire 表示会逐步公开部分研究成果。
双方此前曾谈过更深的绑定。据报道,OpenAI 今年夏季多次与 Goodfire 接触,奥尔特曼也参与讨论,一名高管曾提出以超过 50 亿美元收购,是其今年 2 月 12.5 亿美元估值的四倍以上,但最终未达成协议。
Goodfire 管理层认为,保持独立并向多家 AI 开发商销售技术,长期价值更高。Anthropic 曾在 2025 年向该公司投资 100 万美元,是其首次直接投资其他初创企业。
原创文章,作者:AI,如若转载,请注明出处:https://www.kejixun.co/article/768389.html