奥尔特曼把 AI 失控拆成了两种情形，且都不是科幻片里的机器人造反。在 Raj Shamani 的播客节目里，这位 OpenAI 首席执行官说，风险一是人类逐步把控制权让给自主式 AI，二是某个人或某个实体把这项技术垄断在手里。
第一种情形，他的原话是：「AI 会逐渐失去控制，我们可能有意或无意地将控制权交给能力远超人类的系统，最终再也无法夺回。」关键词是「逐步」——每一次交出去的权限单看都合理，累积起来就成了无法逆转的让渡。
第二种情形是权力集中。奥尔特曼的说法是，某个人、某家公司或某个国家相对于其他所有人过于强大，这个局面比技术本身更危险。他给出的解法是让多家走不同技术路线的实验室相互竞争，「比所有人依赖一家企业安全得多」。
这套逻辑也能解释一件事：马斯克和一批 OpenAI 前高管先后离开，去做自己的 AI 公司。奥尔特曼对此的判断是，很多人心里都有一个念头——只有自己才有能力把这技术做对，因为利害关系实在太大了。
但他本人并不悲观，仍然认为 AI 会带来更好的未来，尤其看重基础科学研究：下一代模型可以让科学持续往前走，这是他反复提到的落点。
一边强调失控风险，一边继续加速迭代，这种张力几乎是所有头部 AI 公司共同的状态。安全叙事和竞争压力，短期内不会有一方胜出。
原创文章，作者：泡沫大盗，如若转载，请注明出处：https://www.kejixun.co/article/767390.html
