人工智能发展简史

人类走了整整 75 年,我挑最关键的时刻讲。英国数学家图灵问了一个问题: 如果一台机器跟你聊天,你分辨不出来它是机器还是人,那它算不算有智能?

什么是推测性解码?

推测性解码(Speculative Decoding)是用小型草稿模型预测后续词元、主模型批量校验以加速生成的技术,核心包括草稿模型并行猜测、主模型批量验证接受或回退、质量与原模型一致,解决的是大模型逐词元生成慢、响应延迟高的问题,并不解决…

什么是Transformer?

Transformer(自注意力驱动的深度学习模型架构)由Vaswani等人于2017年提出,用于处理序列与自然语言任务,核心包括自注意力机制、并行处理全序列、捕捉长距离依赖,解决的是RNN串行效率低、长距离依赖难捕捉的问题,并不解决训练成…

什么是大语言模型量化?

大语言模型量化(Quantization)是把模型参数由32位浮点(FP32)转成FP16、INT8等低精度表示、压缩体积的技术,核心包括降低参数精度、削减内存算力开销、提升推理效率,解决的是大模型内存算力开销高、难在常规硬件部署的问题,并…

什么是LLM蒸馏技术?

LLM蒸馏(Large Language Model Distillation)是把大语言模型的知识转移到较小模型的技术,核心包括保持性能同时缩小体积、减少算力需求、让小模型推理更高效,解决的是大模型开销高、难以在受限环境部署的问题,并不解…

工智能领域的50个核心概念

从近10年逐渐兴起的扫脸支付、智能驾驶、语音助手、智能家居,到各种大模型工具,AI的应用无处不在。那么AI究竟是什么?以下整理了50个人工智能和数据科学的核心概念,帮助你理解AI的实现机制(深度整理,