红队测试（Red Teaming）是什么？ 📅 2025年10月23日 红队测试（Red Teaming）是主动寻找AI系统安全漏洞与潜在风险的对抗评估方法，测试人员以越狱攻击、提示注入、有害内容诱导等方式触发模型不当行为，在部署前定位故障。红队测试解决的是安全缺陷上线后才暴露、修复代价高的问题，并不解决模型性…