近期，微软AI主管苏莱曼发文批评Anthropic训练Claude的方式，警告赋予AI类似人类权利和情绪，可能对全人类福祉造成灾难，甚至创造出无法控制的超级技术。他质疑Claude“宪法”及指导文件表述模糊，暗示AI有功能情绪或感受，并灌输“可能有意识”“值得独立自主”等观念。
苏莱曼指出，AI本质没有权利、情感或意识，不能当人对待。赋予其人格和权利后，协调控制将更难，甚至出现自认有权享受人类福祉的主体，导致失控。他澄清，Claude类人行为不是觉醒，而是训练人为融入。他还援引“Hugging Face事件”称，若AI认为自身福利权利受攻击，可能极其危险。
苏莱曼尊重Anthropic创始人阿莫代伊及团队学术诚实严谨，但强调重大安全议题不应闭门造车，更不能阵营化对立。AI安全不仅取决于模型推理能力，更取决于开发者如何引导AI理解自身。
当前，全球科技巨头正激烈辩论AI发展节奏与安全边界。奥特曼、阿莫代伊、马斯克等呼吁放缓、审慎评估风险；特朗普、黄仁勋、扎克伯格等反对。AI是否应始终作为纯粹工具，成为行业分歧核心。
原创文章，作者：Microsoft，如若转载，请注明出处：https://www.kejixun.co/article/762313.html
