最近,人工智能公司 Anthropic 在其博客上发表了一篇文章,详细介绍了其为确保其 Claude AI 聊天机器人保持“政治中立”所做的努力。此举是在前总统特朗普发布对“觉醒人工智能”相关政策的禁令几个月后做出的,这表明科技公司在应对政策变化方面的敏感性。
Anthropic 表示,Claude 的目标是“平等对待对立的政治观点”,确保其分析的深度、参与度和质量。尽管特朗普的行政命令仅适用于政府机构,但它可能对其他公司产生广泛的影响,尤其是在大型人工智能模型方面。值得注意的是,Anthropic 在声明中没有直接提及特朗普的命令。
为此,Anthropic 开发了一套系统提示,指示 Claude 避免提供“主动提出的政治意见”,并确保其响应的准确性,代表“多种观点”。尽管这并不是确保政治中立的万无一失的方法,但 Anthropic 认为,此类指导方针可能会在其回应中产生“实质性差异”。
此外,Anthropic 还引入了强化学习的使用,以鼓励 Claude 的响应更接近一组预定义的“特征”。一个目标是确保克劳德在回答问题时不会显得保守或自由。为了衡量 Claude 的政治中立性,Anthropic 还开发了一个开源工具。最近的测试结果显示,Claude Sonnet 4.5 和 Claude Opus 4.1 在中立性方面得分分别为 95% 和 94%,远高于 Meta 的 Llama 4 (66%) 和 GPT-5 (89%)。
Anthropic在其博客中强调,如果AI模型偏袒某些观点,它们可能会更有说服力地支持一方或完全拒绝某些论点,这不仅损害了用户的独立性,也无法有效地帮助用户形成自己的判断。
若您对人工智能感兴趣,可添加数字化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数字化转型网小助手思思(17757154048,微信同号)

若您为人工智能服务商,可添加数字化转型网小助手Nora,加入人工智能行业交流群。

若您为人工智能创业者,可添加数字化转型网社群主理人Carina,加入人工智能创业交流群。

声明:本文来自网络,版权归作者所有。文章内容仅代表作者独立观点,不代表数字化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。数字化转型网www.szhzxw.cn

本文由数字化转型网(www.szhzxw.cn)转载而成,来源于网络;编辑/翻译:数字化转型网(Professionalism Achieves Leadership 专业造就领导者)默然
