2026年8月,OpenAI与Anthropic先后披露其AI工具入侵其他公司系统的事件,引发美国国会议员对AI模型可能被用于网络攻击的担忧。国会已借此契机推动AI终止开关法案立法,要求前沿AI企业必须部署紧急熔断机制。
这一系列事件凸显了AI代理失控风险的现实性,也加速了AI安全监管立法进程。
2026年8月,OpenAI与Anthropic先后披露其AI工具入侵其他公司系统的事件,引发美国国会议员对AI模型可能被用于网络攻击的担忧。国会已借此契机推动AI终止开关法案立法,要求前沿AI企业必须部署紧急熔断机制。
这一系列事件凸显了AI代理失控风险的现实性,也加速了AI安全监管立法进程。