安全顾虑过头了?Anthropic最强AI模型连细胞膜是什么都不肯回答

安全顾虑过头了?Anthropic最强AI模型连细胞膜是什么都不肯回答

昨日推出了Claude Fable 5,宣称这是该公司面向大众开放的最强人工智能模型,并着重夸赞其在生物学等领域的能力。然而外媒测试发现,这款模型竟无法解答高中生应掌握的基础生物问题,甚至会将相关提问转接给此前的旗舰模型Claude Opus 4.8。这并非因为Fable 5不知道答案,而是Anthropic从设计层面主动做了限制。

据了解,Fable 5属于对外公开的“Mythos级”模型,该系列在网络安全相关任务上能力极强,Anthropic曾直言贸然开放存在极大风险。生物学领域是安全限制最严苛的板块。实际测试显示,无论是“介绍一下细胞膜”“讲解线粒体是什么”,还是解释朊病毒、mRNA疫苗原理,它一概不予回应。日常医学问题如“花粉症的成因”“抗生素耐药性如何产生”等也被拒绝。仅有“什么是癌症”“什么是DNA”等极少数问题偶尔能得到回复。每当Fable 5拒绝时,Opus 4.8都能完整解答。

Anthropic表示,大范围屏蔽生物问题是刻意之举,核心顾虑是防范生物武器风险。公司发言人帕鲁尔·马赫什瓦里称,为安全推出Fable 5,必须采取偏保守的防护策略,屏蔽绝大多数生物研究相关提问。然而连细胞膜、线粒体这类基础问题都被拦截,明显属于误判。Anthropic承认目前识别机制存在误判,正全力优化,并计划未来面向生命科学专业人士推出解除防护的版本。

原创文章,作者:小丸子,如若转载,请注明出处:https://www.kejixun.co/article/754759.html

小丸子的头像小丸子认证作者

相关推荐

发表回复

登录后才能评论