美国五角大楼此前与人工智能巨头Anthropic的一项合作计划最终流产，并引发了强烈的连锁反应。随后，美国政府罕见地将这家AI企业列为供应链风险对象，此举在全美科技与政治领域激起了轩然大波。
据悉，双方合作破裂的核心原因在于Anthropic拒绝取消其系统的安全护栏。该公司坚持保留这些限制，以防止军方将AI模型用于大规模国内监控或缺乏人类干预的完全自主武器。
一、军方转向其他巨头与国会紧急立法
在与Anthropic的合作终止后，五角大楼迅速转向并与其他主要的AI企业签署了合同。这其中包括OpenAI、谷歌、英伟达、微软以及亚马逊等科技巨头，使得军 事AI的部署引发了更多社会担忧。
针对这一重大变故，以加州参议员亚当·希夫为首的多位民主党议员紧急提出了一系列法案。其中最新的《HALO法案》明确要求，在自主武器系统采取任何行动时，必须由人类指挥官拥有最终决定权。
二、强化人类控制权并防范技术风险
该法案还强制要求详细记录军 事决策和目标选择的过程，以便事后审查，并严禁在核武器部署及大规模监控中滥用AI。议员们坚称，必须确保美军对AI的使用符合国家安全与隐私原则，让技术始终处于人类控制之下。
然而专家也警告称，技术本身并不完美，使用者容易产生“自动化偏见”，盲目相信AI的判断。结合AI系统决策过程的不可见性，即使有监督，军 事AI的部署仍可能导致严重的致命错误。
