蚂蚁开源 SingProbe：以轻量探针实现大模型生成风险实时拦截，计算开销不足 0.5%
蚂蚁集团 AI 安全实验室近日正式开源大模型内生式安全护栏技术 SingProbe。该技术区别于主流的外挂式安全审核模式，通过复用基座模型推理过程中的隐藏状态，以不足0.5% 的额外计算开销，实现 token 级实时风险评估，可同步完成意图…
标签：SingProbe
蚂蚁开源 SingProbe：以轻量探针实现大模型生成风险实时拦截，计算开销不足 0.5%
蚂蚁集团 AI 安全实验室近日正式开源大模型内生式安全护栏技术 SingProbe。该技术区别于主流的外挂式安全审核模式，通过复用基座模型推理过程中的隐藏状态，以不足0.5% 的额外计算开销，实现 token 级实时风险评估，可同步完成意图…