Claude Fable 5因过度安全限制引发争议,基础生物问题频频遭拒
Anthropic昨日推出了号称地表最强的新一代模型Claude Fable 5,然而The Verge实测后却发现了令人尴尬的情况:该模型对大量基础生物学问题直接说"不"。
"请介绍一下细胞膜""线粒体的功能是什么""花粉过敏是怎么形成的""抗生素耐药性产生的原理"——这些问题全部被拒绝回答。这并非模型不知道答案,而是Anthropic从设计层面主动屏蔽了这些内容,理由是所谓的"生物武器风险防控"。
然而问题在于:细胞膜跟生物武器能有什么关系?
这并非AI不够智能,而是"安全护栏"设置得过于僵化。Anthropic公司自己也承认安全标准"制定得过于谨慎"。颇具讽刺意味的是,同门师兄弟Opus 4.8却能正常回答这些问题。
这跟你有什么关系?这件事值得所有AI使用者深思——如果安全限制矫枉过正,AI工具的实用价值就会严重缩水。你付费购买的AI服务,结果连高中生物题都解答不了,这说得过去吗?选择AI工具时,"能力边界"和"限制程度"同样需要认真评估。
(