据《商业内幕》报道，来自OpenAI、Anthropic、谷歌和Meta等头部AI公司的1100多名员工联合签署了一封公开信，呼吁联邦政府在必要时对AI开发“踩刹车”。随着各家公司竞相研发能力越来越强大的AI系统，外界普遍担忧技术迭代速度可能远超现有安全保障、治理体系和监管机制所能跟上的步伐。这封公开信明确提出，希望美国政府支持一项国际合作，开发必要的技术和治理工具，以便“有意识地把控自动化AI开发的前沿进程”，该倡议被命名为“把控前沿”（Pacing the Frontier）。
公开信重点关注“自动化AI开发”，即未来AI能够自行开发和改进自身系统的能力，业界称之为“递归式自我改进”。Anthropic曾透露其Claude系列模型正快速接近这一门槛，信中警告称，很难准确预测这一进程将加速到何种程度，但确实存在一种真实风险——AI能力的发展速度会迅速加快，超出我们理解或控制这些系统的能力。签署这封公开信的高管阵容强大，包括Anthropic CEO达里奥·阿莫代伊及两位联合创始人、OpenAI首席科学家雅库布·帕霍茨基、Meta首席科学家赵晟佳，以及负责谷歌DeepMind AI安全与对齐工作的安卡·德拉甘。
针对这一倡议，OpenAI在X平台上发文表示，相信在未来某个时间点，前沿模型开发中的AI加速可能会如此之快，以至于世界将需要把控AI进步的速度。Anthropic则指出，其上个月关于递归式自我改进的研究表明，社会需要一些工具来有意识地调控AI发展的前沿速度，以便争取足够的准备时间。与此同时，OpenAI CEO萨姆·奥尔特曼也在接受播客采访时呼应这一呼声，称或许现在需要“把控”AI发展节奏，让社会适应新的能力水平并建立防护机制，但他同时强调必须谨慎行事，既不能让外界认为这是监管俘获，也不能让人觉得是前沿实验室之间的串通。值得注意的是，奥尔特曼此番态度与他过往立场形成反转——他曾明确避免签署类似倡议，并批评2023年一封主张“放缓AI发展”的公开信“缺少关键技术细节”，如今他却主动站到了呼吁“把控”的一方。这一转变也折射出AI业界内部对技术失控风险的焦虑正日益上升，而如何在国际合作与竞争之间找到平衡点，仍是摆在监管者和企业面前的一道难题。
原创文章，作者：小科同学，如若转载，请注明出处：https://www.kejixun.co/article/758594.html
