标签：AI Red Team

AI红队（AIRedTeam）是专门针对大模型、AI系统开展越狱、对抗、提示词注入、敏感信息泄漏、数据中毒等专项攻击测试的安全演练方法，目的是在生产前发现AI系统的安全弱点与行为偏差。