OpenAI 最近发布了两个新的开放权重模型 gpt-oss-safeguard-120b 和 gpt-oss-safeguard-20b，它们专注于 AI 安全领域的应用。这些模型是在之前发布的 gpt-oss 系列的基础上优化的，仍然遵循 Apache 2.0 许可证，允许任何人自由使用、修改和部署它们。
新模型的一个显着特点是，它为开发人员提供了根据自定义安全策略进行推理分类的能力，摆脱了传统的“一刀切”的安全系统。开发者可以在推理时输入自己的安全策略和要检测的内容，模型会根据这些策略进行分类，并提供相应的推理。可以灵活调整安全策略以提高模型的性能。这使得 gpt-oss-safeguard 模型能够对用户消息、聊天回复甚至完整对话进行分类，适应不同的需求。
OpenAI指出，这种新模式特别适用于几种特定情况。例如，当潜在危害出现或演变时，安全策略需要快速适应;在一些高度专业化的领域，传统的小型分类器难以发挥作用;而当开发者缺乏大量高质量样本时，就很难训练出一个高级分类器。此外，对于分类结果的质量和可解释性优先于处理速度的场景，这些新模型也是一个理想的选择。
然而，gpt-oss-safeguard 模型也有一些局限性。OpenAI指出，如果一个平台拥有大量的标注样本，并且可以训练传统的分类器，那么后者在复杂或高风险的场景下仍可能表现更好，对于定制模型具有更高的准确性。同时，这种新模式消耗了更多的处理能力和资源，因此不适合大规模的实时内容筛选。
目前，gpt-oss-safeguard-120b 和 gpt-oss-safeguard-20b 已经在 Hugging Face 平台上免费提供下载，方便开发者探索和应用。
