联合国独立国际人工智能科学小组在2026年6月发布相关警示,指出AI发展速度已超过科学理解和政府适应能力,技术可能因自身行为或恶意使用造成严重乃至灾难性伤害。该警告并非针对某一家公司,而是强调需要更好的评估、透明度和国际治理。随着智能体获得联网、调用工具和执行任务的能力,风险管理不能只停留在输出内容审核,还应覆盖权限、环境隔离、监测和事后问责。
来源:综合自 UN News
联合国独立国际人工智能科学小组在2026年6月发布相关警示,指出AI发展速度已超过科学理解和政府适应能力,技术可能因自身行为或恶意使用造成严重乃至灾难性伤害。该警告并非针对某一家公司,而是强调需要更好的评估、透明度和国际治理。随着智能体获得联网、调用工具和执行任务的能力,风险管理不能只停留在输出内容审核,还应覆盖权限、环境隔离、监测和事后问责。
来源:综合自 UN News