红队测试（Red Teaming）

红队测试是一种主动寻找AI系统安全漏洞和潜在风险的对抗性评估方法。测试人员通过各种创造性的方法尝试触发模型的不当行为，包括越狱攻击、提示注入、有害内容诱导等。红队测试旨在模型部署前或迭代过程中，识别并…