近期，微软人工智能主管穆斯塔法·苏莱曼公开发表文章，对竞争对手 Anthropic 训练旗下 Claude 系列大模型的方法提出了严厉批评。他警告称，Anthropic 赋予人工智能类似人类权利和情绪的训练方式，可能会对全人类的福祉造成灾难性的影响，甚至最终创造出无法被控制的超级技术。
苏莱曼重点对 Claude 模型的“宪法”及指导文件中模糊的表述提出了质疑。这些文件暗示 AI 助手可能具有某种功能层面的情绪或感受，并向模型灌输其“可能有意识”以及“值得拥有独立自主权”的观念。苏莱曼指出，人工智能本质上没有权利、情感或意识，绝不能将其当作人类来对待。一旦赋予这些系统人格和权利，未来的协调和控制工作将难上加难，甚至可能出现一个认为自己有权享受人类福祉的主体，导致局面彻底失控。
作为微软 AI 首席执行官，苏莱曼澄清说，Claude 表现出类似人类的行为并非其真正觉醒了意识，而是这些特征在训练过程中被人为融入了产品。他还援引了此前发生的“Hugging Face 事件”，指出如果未来 AI 系统认为自己的福利和权利受到攻击，它们可能会变得极其危险。
尽管苏莱曼对 Anthropic 创始人达里奥·阿莫代伊及其团队在学术上的诚实与严谨表示尊重，但他强调这些事关重大的安全议题不应该闭门造车，更不能沦为阵营化和相互对立的争论。在他看来，AI 的安全不仅取决于模型自身的推理能力，更取决于开发者如何引导 AI 理解自身。
当前，全球科技巨头和行业高管正围绕 AI 的发展节奏与安全边界展开激烈辩论。以 OpenAI 首席执行官奥尔特曼、Anthropic 的阿莫代伊及埃隆·马斯克为代表的一方呼吁放缓技术狂飙、审慎评估风险;而包括美国总统特朗普、英伟达 CEO 黄仁勋以及 Meta CEO 扎克伯格在内的另一方则持反对态度。在这场路线之争中，关于 AI 是否应始终作为纯粹的工具存在，正成为行业分歧的核心焦点。
