RLHF是什么？
RLHF 是把人类偏好作为奖励信号来微调大语言模型的方法，通常先做监督微调、再训练奖励模型拟合人类偏好、最后用强化学习算法优化策略，核心是让模型的输出从能生成内容变成符合人类期望与价值观的表达，能力包括偏好数据采集、奖励模型训练与强化学习策…
作者：数智化转型网编辑部
AI安全是什么？
AI 安全是研究人工智能系统面临的安全风险并建立防御机制的研究与工程领域，覆盖对抗攻击、提示词注入、数据中毒、模型窃取、成员推断、后门与偏见歧视等威胁面，核心是把攻防能力纳入模型全生命周期，能力包括红队测试、对抗训练、内容审核与可信部署。它…
混合专家模型是什么？
混合专家模型是把前向计算按输入路由到部分参数子集上执行的稀疏化架构，核心是在不激活全部参数的前提下扩大模型容量，能力包括门控路由、专家容量约束与负载均衡机制。它解决的是模型参数规模受限于算力预算的问题，并不解决路由机制本身带来的通信开销与训…
AI制药是什么？
AI 制药是把人工智能应用于新药研发全流程的交叉领域，覆盖靶点发现、分子设计、化合物筛选、性质预测与临床试验设计，核心是用计算预测替代部分湿实验来压缩试错周期，能力包括结构预测、虚拟筛选、性质预测与临床试验优化。它解决的是传统制药研发周期长…
人工智能是什么？
人工智能是研究、开发用于模拟、延伸和扩展人类智能的理论、方法与技术体系，核心是用从数据中归纳出的概率性模型替代人工编写的确定性规则，能力包括机器学习、深度学习、自然语言处理与计算机视觉。它解决的是规则难以穷举、经验难以规模化复制的问题，并不…
提示词注入是什么？
提示词注入是通过精心构造的输入内容绕过 AI 系统的指令优先级或安全限制、诱导大模型执行非预期行为的攻击技术，核心是把恶意指令伪装成正常输入混入上下文，能力包括直接注入与间接注入的识别、输入清洗、上下文隔离与输出审核。它解决的是大模型无法可…
知识蒸馏是什么？
知识蒸馏是把大模型或集成模型的输出行为迁移到更小模型上的训练方法，核心是用软标签传递教师模型的暗知识，能力包括 logits 蒸馏、中间层特征对齐与蒸馏损失设计。它解决的是大模型推理成本高、难以在边缘或高并发场景部署的问题，并不解决小模型自…
AIOps是什么？
AIOps 是把人工智能与机器学习应用于 IT 运维的方法论与平台体系，通过对日志、指标与链路的海量运维数据做智能分析实现异常检测、根因定位、容量预测与故障自愈，核心是让运维从被动响应转向主动预防，能力包括异常检测、告警收敛、根因分析、容量…
智能体编排 是什么？
智能体编排是把多个具备独立能力的智能体按分工组织起来协同完成复杂任务的方式，核心是角色分工与任务路由，能力包括角色定义、任务图调度、通信协议与状态共享。它解决的是单一智能体在跨领域跨工具任务上能力受限与上下文拥挤的问题，并不解决单个智能体自…
可解释AI是什么？
可解释 AI 是让机器学习模型的决策过程可被人类理解、追溯与审查的技术体系，核心是把模型内部判断逻辑以可读形式呈现，能力包括特征归因、反事实解释、概念解释与决策路径可视化。它解决的是深度学习黑箱无法审计、责任无法归属的问题，并不解决模型准确…
AI伦理是什么？
AI 伦理是让人工智能系统的设计、开发与部署符合公平、透明、隐私与可问责要求的道德原则与治理规范，核心是把人类价值前置到技术决策环节，能力包括偏见审计、可解释性评估、人类监督环节与合规审查。它解决的是技术推进快于规则建立、偏见被规模化复制的…