AI偏见(Bias)是指什么?

AI偏见(Bias)是模型输出中流露的不公平或歧视性倾向,来源多为训练数据的社会偏见、历史不公与采集偏差,常见形态包括性别、种族、文化与年龄偏见,例如把特定职业与特定性别强行关联。偏见识别与缓解解决的是应用中公平性受损、责任难落实的问题,并…

 AI幻觉(Hallucination)是指什么?

AI幻觉(Hallucination)是大模型生成出表面看似合理、实际却错误或虚假内容的现象,成因包括训练数据偏见与噪声、知识编码偏差、推理能力局限和长文本事实不一致。识别并抑制幻觉解决的是高准确性场景中输出可信度无保证的问题,而幻觉本身并…

延迟(Latency)是指什么?

延迟(Latency)是AI系统从接收请求到产出完整响应的时间间隔,构成要素包括模型规模、硬件配置、网络传输、批处理策略与系统优化水平,低延迟决定对话系统、实时翻译等实时交互能否成立。延迟解决的是响应过慢使实时场景不可用的问题,并不解决答案…

鲁棒性(Robustness)是指什么?

鲁棒性(Robustness)是AI模型在遭遇输入扰动、对抗性攻击或数据分布变化时保持稳定性能的能力,构成包括对拼写错误、语法变化与恶意输入的适应,以及图像轻微旋转、亮度变化后仍能正确分类。鲁棒性解决的是非理想输入下性能大幅下滑的问题,并不…

量化(Quantization)是指什么?

量化(Quantization)是降低模型参数数值精度以压缩存储与计算成本的技术,常见做法是把32位浮点数转成16位、8位整数,并用量化感知训练(QAT)、训练后量化(PTQ)控制精度损失。量化解决的是资源受限环境中显存占用高、延迟大的问题…

 困惑度(Perplexity)是指什么?

困惑度(Perplexity)是衡量语言模型预测不确定性的量化指标,数值越低表示预测越准,其作用是评估语言分布建模质量与训练收敛状态,困惑度为10即模型平均在10个候选词中选最可能的一个。困惑度解决的是模型评估与训练调试缺少量化依据的问题,…

基准测试(Benchmarks)是指什么?

基准测试(Benchmarks)是评估AI模型能力与性能的标准化测试集,其核心构成包括语言理解、逻辑推理、知识问答、代码生成等维度、MMLU、HellaSwag、HumanEval等测试,以及量化评分。它解决的是模型优劣缺少统一尺度的问题,…

AI智能体(AI Agent)是指什么?

AI智能体(AI Agent)是具备感知环境、制定计划、执行行动与学习改进的自主AI系统,核心构成包括任务目标与状态分析、行动策略制定、通过API与工具同外部交互,以及对大模型能力的场景化封装,解决的是被动助手无法自主完成复杂任务的问题,并…

 向量数据库(Vector Database)是什么?

向量数据库(Vector Database)是专门存储、索引与检索高维向量的数据库系统,其核心构成包括把文本、图像转换为向量嵌入的方式、基于语义相似性的快速检索,以及作为检索增强生成(RAG)的关键组件,解决的是传统数据库不擅长向量运算的问…

检索增强生成(RAG)是指什么?

检索增强生成(RAG,Retrieval-Augmented Generation)是先检索外部知识再由生成模型作答,核心构成包括按查询检索文档片段、把片段与查询拼为上下文输入大模型,以及基于证据生成可追溯答案,解决的是模型知识陈旧与幻觉,…

思维链(Chain-of-Thought)是指什么?

思维链(Chain-of-Thought)是要求大模型把从问题到答案的思考步骤逐步展开的提示工程技术,其核心构成包括显式推理过程输出、多步逻辑推理任务的分解,以及模拟人类分步解决问题提升准确性,解决的是模型直接给答案时多步推理出错的问题,并…