当地时间9月23日，OpenAI CEO萨姆·奥尔特曼在联合国安理会就AI议题发表讲话，呼吁国际社会加强合作，为前沿AI系统建立能力评估、风险评估、安全防护和人类监督标准。他指出，随着AI能力快速提升，其潜在收益和风险正变得更加直接、更加明显。
奥尔特曼认为，AI可能像一场充满创造力与发现的文艺复兴，也可能像一场引发动荡与混乱的工业革命。最佳版本的AI不是让人成为机器中的齿轮，也不是优化生活直到需要人的部分消失，而是让人们在复杂世界中拥有更多能动性。许多事情AI不能也不应自动化。它能帮助人们学习、创造、发现和解决问题，但随着系统更加自主，也可能出现人类无法理解或控制其决策、权力过度集中的情况。
他特别提到递归自我改进。如果AI开发过程进一步自动化，技术进步速度可能快速提升，因此必须保持高度谨慎。奥尔特曼将严重问题概括为两个方向：一是失去对未来的控制，AI进展太快，人们无法跟上，也无法在需要时干预。行业不能因为AI利益太大就接受过多技术风险，也不能因企业竞争仓促决策。OpenAI过去曾单方面放缓，未来也会如此。不应训练无法极强论证可受人类控制的模型。无论灾难风险估计为10%、1%、12%还是0.1%，都不可接受。
二是权力集中。奥尔特曼强调，不应让最强AI模型和相关权力集中在少数人手中，避免某个人、公司或国家用AI把自己的世界观强加给所有人。他呼吁通过国际合作，在创新与安全之间找到平衡，确保AI发展始终处于人类监督之下。
原创文章，作者：柠萌，如若转载，请注明出处：https://www.kejixun.co/article/763151.html
