提示注入是什么?

提示注入是攻击者通过在输入中嵌入恶意指令,诱导大模型偏离系统设定、泄露数据或执行非预期动作的攻击方式,核心是利用模型对自然语言指令不加区分服从的特性,形态包括直接注入与经由文档、网页的间接注入。它本身就是需要防御的风险而非解决方案,企业必须…