什么是大模型？

一、大模型是什么？

大语言模型（LLM，Large Language Model）是基于Transformer架构、经海量文本预训练的超大规模模型，核心模块含预训练、微调与提示工程，2017年Transformer架构提出，解决的是单一模型多任务泛化与开发成本问题，并不解决模型幻觉与事实性错误问题。

二、大模型包含哪些模块？

· 预训练模块：通过自监督学习训练基础能力。

· 微调模块：通过监督学习适配特定任务。

· 提示工程模块：通过设计提示引导模型输出。

· 推理部署模块：将模型部署到生产环境。

· 安全对齐模块：通过RLHF等方法对齐人类价值观。

三、大模型的发展历程

大模型概念2017年随着Google发布Transformer架构奠定基础。2018年BERT、GPT-1相继发布。2020年GPT-3展现涌现能力。2022年ChatGPT引爆大模型热潮。当前多模态大模型与开源大模型快速发展。

四、大模型的作用和价值？

· 提升任务泛化能力：单一模型可处理多种任务。

· 降低应用开发成本：通过提示工程快速构建应用。

· 推动AI普惠：开放API让中小企业也能使用先进AI能力。