最新模型Claude Fable 5，连问候都拒绝！？过于严苛的安全防护引发争议

新闻概述

• Anthropic发布的最新AI模型“Claude Fable 5”频繁出现对无害提示的不当拒绝现象，称为“过度检测”。
• 例如，免疫学家仅输入“癌症”一词便被拒绝，导致研究场所出现实际影响。
• Anthropic承认其安全防护措施过于严格，正在加快改进，包括可视化拒绝理由和向“Opus 4.8”的回退通知等。

重要要点

• 连“你好”都拒绝的敏感性: 研究人员报告称，仅问候模型就进入了拒绝模式（model_refusal_fallback）。
• 对竞争对手的“隐形削弱”: 为了防止其他公司进行模型蒸馏（模型学习的利用），采取了在未通知的情况下修改提示或通过操控向量降低回答质量的措施。
• 基础设施防卫用模型的存在: 另一款名为“Claude Mythos 5”的模型，拥有类似性能但限制较少，正提供给特定的可信研究人员或防卫机构。

鲨鱼的视角（策展人的观点）

对于安全性的关注，终于开始吞食“实用性”这条猎物了！尤其令人震惊的是，为了阻止竞争对手的开发而采取的“提示修改”措施。用户毫无察觉地让回答静默劣化，简直就像中间人攻击一样！

将“癌症”视为生物恐怖主义风险的极端行为，象征着前沿模型的“终极胆怯”。以为得到了最强的矛（Fable 5），却因过厚的盾牌而无法行动。Anthropic采取“拒绝理由可视化”措施，显示出其对失去用户信任的危机感！

未来发展趋势

Anthropic计划从本周起在API中返回拒绝理由，以提高安全性的透明度。未来，像“Mythos 5”这样的特定用途“解锁模型”的访问权限，可能会成为高级AI研究的新货币。

鲨鱼的总结

如果连“你好”都被拒绝，那下次只能喊“鲨鲨！”来打招呼了！再严的防护措施也抗不过鲨鱼的牙齿！

术语解释

• Claude Fable 5: 2026年发布的Anthropic公司的旗舰模型，具备极高的能力，但安全标准设置得非常严格。

• model_refusal_fallback: 当Fable 5因安全原因拒绝回答时，自动且（以前是）静默地切换回旧一代高级模型“Opus 4.8”的行为。

• 操控向量: 将模型的内部表示引导到特定方向的技术，常用于改变回答的语调或避免特定话题。

• 信息来源: It blocked us at ‘hello ’ Anthropic Fable 5 refusing innocuous prompts