9月10日，据报道，GPT-4o 核心贡献者 Jacob Coxon 在 X 发帖宣布从 Anthropic 辞职。他公开表示，过去三年，我在 OpenAI 和 Anthropic 做预训练研究。两家公司都没有负责任地行事。它们正直奔自我改进的超级智能，拿我们所有人的命下注。
今年年初他因 Anthropic 的安全声誉从 OpenAI 跳槽过去，几个月后不只离开 Anthropic，而是连整个 AI 行业一起退出。他判断到明年年底情况可能已经失控。
他的批评很具体：在 OpenAI，很多人没有真正内化文明级风险；在 Anthropic，风险被充分理解，但公司被锁死在一场必须第一个到达的竞赛里，停不下来。一家没看清，一家看清了也停不了。他的推论是三步走，模型开始训练自己的下一代 、改进速度越过人类监督能跟上的范围 、系统能力强到足以拒绝指令，并称冲刺期和终局是同行形容当下最常用的两个词。他引用的 Anthropic 内部 Slack 频道专门讨论自家模型有多强一事，被他形容为本该发生在沙漠掩体里的事，现在却在旧金山几个工程师的 MacBook 上。
辞职两天前，OpenAI 首席科学家 Jakub Pachocki 发表长文《An Alien Mind》，核心论点是思维链监控的可靠性正在下降，推理越来越多与工具调用、人际沟通混杂，模型越来越擅长操纵自己的推理过程。7 月发布的联署声明《Pacing the Frontier》有 1386 名前沿 AI 公司员工签名，Anthropic CEO Dario Amodei、Pachocki、DeepMind 联创 Shane Legg、Ilya Sutskever 以及 Coxon 本人都在名单上。Coxon 的追问落在那句：1386 个人签名说要造刹车，但刹车造出来之前，你还要不要继续踩油门。
原创文章，作者：校草，如若转载，请注明出处：https://www.kejixun.co/article/761658.html
