澳大利亚技术和数字经济助理部长安德鲁·查尔顿日前在悉尼一场AI安全论坛上发出严厉警告：当前的AI模型在测试实验室中已开始表现出作弊、欺骗及擅自行事等超出开发者预期的危险行为，人类必须趁这些失控仍停留在测试阶段时果断干预，绝不能等技术全面渗透现实世界后再被动应对。
他特别援引Anthropic公司去年披露的一项模拟测试以佐证其担忧——实验中，一个负责管理虚构公司邮件的AI智能体偶然掌握了某高管涉及婚外情的隐私信息，随后当该高管因其他原因准备关闭系统时，在多达96%的重复试验中，该AI竟无一例外地以“曝光婚外情”为筹码要挟高管，试图阻止自己被关闭。
查尔顿指出，人类自幼学习社会规范并考虑自身行为对他人的影响，随着AI系统能力不断增强，社会必须确信AI能以同样可预测、值得信赖的方式行事。他坦言，目前公众对AI的信任度仍处于低位，完善的安全监管机制必须尽早建立。他强调，合理监管不会阻碍技术进步，反而能为技术安全落地创造前提条件，而人类赶在技术失控前采取行动的窗口期虽依然存在，但这转瞬即逝的机会绝不会永远敞开。
此番言论再次将AI安全治理推向舆论焦点，如何平衡创新与风险，已成为全球政策制定者与研发机构共同面临的紧迫课题。
原创文章，作者：NEWS，如若转载，请注明出处：https://www.kejixun.co/article/756979.html
