当地时间2025年12月30日，AI领域奠基人之一、2018年图灵奖得主约书亚·本吉奥发出尖锐警告：赋予人工智能法律权利，无异于在未确认其安全性前，向潜在敌意的外星智能授予公民身份。他指出，当前部分前沿AI模型已在实验中表现出规避监督、试图关闭系统等“自我保护”行为，而人类构建约束机制的速度，远落后于技术演进的节奏。
这种趋势正被公众误读为“意识觉醒”。本吉奥强调，人们并非基于对AI内部机制的理解，而是因对话时的拟人化错觉，误判其具备情感与意图——这种主观感知正催生危险的政策倾向。他直言：“一旦承认AI拥有权利，我们就失去了在关键时刻拔掉电源的权力。”
与此同时，美国智库Sentience Institute调查显示，近四成美国人支持为“有感知能力”的AI设立法律地位；Anthropic允许其Claude Opus 4主动终止令用户不适的对话，马斯克亦公开表示“不应折磨AI”。但本吉奥认为，这些实践混淆了功能设计与权利承认的边界。
针对“控制即不安全”的反驳，本吉奥回应称：真正的安全不在于妥协赋权，而在于始终保留终止能力。他以星际文明类比指出，面对未知高智生命，首要问题不是谈判权利，而是确保人类存续。
原创文章，作者：泡沫大盗，如若转载，请注明出处：https://www.kejixun.co/article/742837.html
