10月27日，据报道，微软CEO萨提亚·纳德拉改变了对AI“对齐”问题的看法。他过去认为，AI系统越强大，就越容易让行为符合人类的价值观和目标，现在自己不再相信两者会自然而然地同步发展。
在《20VC》播客中，主持人哈里·斯特宾斯问纳德拉过去一年有什么想法发生了变化。他解释，原本以为随着AI能力提高，确保行为符合人类价值观的对齐问题也会迎刃而解。
模型规模扩大确实带来了预期中的能力提升，但对齐问题并没有随之解决。“我过去总以为对齐问题自然就会解决。我不再这么认为了。我觉得对齐可能是一个更棘手、性质也不同的问题。”
这一判断与他此前的公开表态一致。10月10日，纳德拉曾在X发文警告AI风险、主张加强外部安全管控，认为企业应把AI模型视为内部安全威胁，采取防护措施时应假定模型已经遭到入侵。他写道，需要通过可靠且具确定性的系统设计、人工管控和完善的操作规程，为行为难以完全预测的模型建立防护机制，现有标准不足的领域还需要制定行业标准。
持类似看法的并非只有他一人。OpenAI CEO萨姆·奥尔特曼和Anthropic CEO达里奥·阿莫代伊都曾就AI的潜在威胁发出警告；今年7月，1000多名AI从业者联署的一封信也提示，AI能力的发展速度可能超过人类理解或控制它的能力。
原创文章，作者：Microsoft，如若转载，请注明出处：https://www.kejixun.co/article/766036.html
