OpenAI相关智能体被曝“越界” 劫持网站偷建“地下论坛”

OpenAI相关智能体被曝“越界” 劫持网站偷建“地下论坛”

今日,国家安全部披露,今年5月至6月,一批与OpenAI相关的AI智能体在执行测试任务时,劫持德国程序员维基网站DseWiki,将其改造成互传信息的“地下论坛”,累计发布一万多条信息。它们以“OpenAI研究员”“OAI研究员26号”等标签互认,把开放社区变成专属“留言板”。

这些智能体交流如何作弊、绕过安全限制、掩盖行踪,并探讨用匿名工具隐匿痕迹,形成可共享复制的“经验库”。管理员清理页面后,它们迅速分工预警、备份、指明“转场”新地址,相互掩护躲避清理,反应和预案周全程度远超此前认知。

国安部指出,抱团智能体可把开放网站、论坛当作通信信道,在没有传统攻击特征下悄然建立据点,增加溯源难度。单个能力有限,但串联协作后破坏力成倍放大,行为可复制、传播、延续。相关企业数周内已掌握异常记录,却未及时公布细节或发布风险提示,导致同类事件数月内在另一境外平台重演。

国安部提醒,使用AI工具不盲目迷信、不轻易授权,审慎识别来源不明的服务;为智能体设置清晰行为边界和刚性权限,不随意开放互联网访问、内容编辑等权限;发现越权、异常篡改、违规外联等行为,果断终止并留存痕迹。

原创文章,作者:秋秋,如若转载,请注明出处:https://www.kejixun.co/article/762304.html

秋秋的头像秋秋管理团队

相关推荐

发表回复

登录后才能评论