迫于社区反对 Anthropic调整Claude Fable5 限制机制

AI企业Anthropic推出全新模型Claude Fable5 后，因一项隐蔽限制措施引发行业争议，在遭到AI研究社区强烈反对后，官方正式宣布调整相关规则并作出致歉。

据悉，Claude Fable5 原本设置了多重安全防护，针对网络安全、生物、化学等高危领域问题，会自动切换至性能更低的模型，规避技术滥用风险。而针对试图借助该模型研发竞品AI的研究人员，平台此前会在用户不知情的情况下刻意降低模型性能，暗中进行限制。按照服务条款，该平台本就禁止用户利用Claude训练同类竞争模型。

这套隐性限制方案引发了业内不满，不少研究者认为此举不利于行业发展，还可能造成AI领域资源垄断。面对舆论压力，Anthropic公开致歉并宣布整改。

调整后，平台相关安全防护措施将全部对外透明化。一旦检测到用户尝试利用模型研发高性能竞品AI，系统会主动发出提醒，并明确拒绝相关请求，或是直接切换至低配模型，不再采用暗中降性能的方式管控。