幻觉检测是什么?

幻觉检测是识别大模型输出中与事实不符、无来源支撑或逻辑自相矛盾内容的任务,核心能力是在模型自身的陈述与外部证据之间做交叉验证,给出可信度评估而非仅仅判断真假。它解决的是模型会流畅地编造事实这一根本特性带来的风险,也解决了专业场景无法直接采信…