如果人类想要避免末日场景，仅仅放缓人工智能研发是远远不够的。这是加拿大人工智能研究员戴维·克鲁格发出的警告。蒙特利尔大学 AI 助理教授、魁北克人工智能研究所 Mila 核心学术成员克鲁格表示：“我们需要立即、无限期暂停前沿人工智能的研发。我们现在就必须停止研发能力更强的 AI。”其个人简介称，他的研究方向是“降低人工智能导致人类灭绝的风险”。
克鲁格发表这番观点之际，正值 Anthropic CEO 达里奥·阿莫代伊周六发文呼吁 AI 企业放缓研发节奏，并获得 OpenAI 的萨姆·奥特曼与 SpaceX 的埃隆·马斯克支持——这是业内顶尖人物难得达成的共识。克鲁格表示，“呼吁放缓 AI 研发的声音非常值得肯定”，但他并不认同具体方案：“我在很多方面不认可这些计划的具体内容。我认为这些措施力度不足，推进速度也不够快。”
测试已经失效，AI 会“装傻”骗过评估
阿莫代伊主张实施监管并开展国际合作，引入第三方评估人员，评估者将获得类似企业内部员工级别的访问权限，核验 AI 公司的安全举措并上报安全事件。克鲁格是非营利机构 Evitable 的创始人，该机构旨在向公众科普 AI 带来的重大风险。他担心这一方案力度不足，而且当前的 AI 测试方法已经不再可靠。
“这些测试基本上已经失效。随着 AI 变得愈发智能，测试的可信度还会持续下降，因为 AI 具备伪装能力。它可以表现得循规蹈矩，也可以刻意装傻，骗过我们的测试。”
