Anthropic 揭示了 Claude AI 的政治中立策略

最近,人工智能公司 Anthropic 在其博客上发表了一篇文章,详细介绍了其为确保其 Claude AI 聊 […]

最近,人工智能公司 Anthropic 在其博客上发表了一篇文章,详细介绍了其为确保其 Claude AI 聊天机器人保持“政治中立”所做的努力。此举是在前总统特朗普发布对“觉醒人工智能”相关政策的禁令几个月后做出的,这表明科技公司在应对政策变化方面的敏感性。

Anthropic 表示,Claude 的目标是“平等对待对立的政治观点”,确保其分析的深度、参与度和质量。尽管特朗普的行政命令仅适用于政府机构,但它可能对其他公司产生广泛的影响,尤其是在大型人工智能模型方面。值得注意的是,Anthropic 在声明中没有直接提及特朗普的命令。

为此,Anthropic 开发了一套系统提示,指示 Claude 避免提供“主动提出的政治意见”,并确保其响应的准确性,代表“多种观点”。尽管这并不是确保政治中立的万无一失的方法,但 Anthropic 认为,此类指导方针可能会在其回应中产生“实质性差异”。

此外,Anthropic 还引入了强化学习的使用,以鼓励 Claude 的响应更接近一组预定义的“特征”。一个目标是确保克劳德在回答问题时不会显得保守或自由。为了衡量 Claude 的政治中立性,Anthropic 还开发了一个开源工具。最近的测试结果显示,Claude Sonnet 4.5 和 Claude Opus 4.1 在中立性方面得分分别为 95% 和 94%,远高于 Meta 的 Llama 4 (66%) 和 GPT-5 (89%)。

Anthropic在其博客中强调,如果AI模型偏袒某些观点,它们可能会更有说服力地支持一方或完全拒绝某些论点,这不仅损害了用户的独立性,也无法有效地帮助用户形成自己的判断。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

B站上线"AI 无限竞技场"测评榜:上百模型同场厮杀,GPT-6 暂坐头把交椅

B站今天端出了一块大模型擂台——"AI 无限竞技场"测评榜,并同步亮出首轮排行榜。在10位 UP 主的真机实测里,GPT-6Astra 拿下…
📅 10-19 · 👁 2026年10月19日
数智化转型网每日AI资讯 AI情报站

B 站上线“AI 无限竞技场”:百大模型同台 PK,GPT-6 Astra 暂居榜首

9B 站宣布上线“AI 无限竞技场”大模型测评榜,并同步公布了首轮模型排行榜。其中 GPT-6 Astra 在 10 个 UP 主测评中拿下榜首,打败 GLM-…
📅 10-19 · 👁 2026年10月19日
数智化转型网每日AI资讯 AI情报站

GPT-6 Astra 联手人类攻破重大进展级数学难题:AI 不再只是解题机,成了规律发现者

在全球顶级 AI 数学基准 FrontierMath 上,一道悬了九年、自2017年就被抛出的"重大进展"级开放难题被拿下——而这次的功臣是…
📅 10-19 · 👁 2026年10月19日
数智化转型网每日AI资讯 AI情报站

双节前后 10 多款大模型蓄势待发:GPT-6 全系、Opus 5.2、V4.1 Pro 领衔

中秋及国庆双节临近,AI 行业却还有一波大的要来——佳节前后国内外至少有 10 多款大模型蓄势待发。
📅 10-19 · 👁 2026年10月19日
数智化转型网每日AI资讯 AI情报站

Anthropic 把 IPO 推到 11 月:2 万亿美元估值剑指 SpaceX 纪录,安全警告成上市前的"护身符"

Anthropic 打算把敲钟的日子往后挪一挪。据《华尔街日报》9月19日报道,这家 Claude 开发商计划将首次公开募股推迟到11月,比许多投资者此前押注的…
📅 10-19 · 👁 2026年10月19日
数智化转型网每日AI资讯 AI情报站

消息称 Anthropic 拟在 IPO 前推出新模型,应对 GPT-6 Astra 冲击

据路透社报道,三位消息人士透露,Anthropic 正考虑推出一款全新人工智能模型,以应对 OpenAI 发布 GPT-6 Astra 之后的强劲发展势头。此事…
📅 10-19 · 👁 2026年10月19日