从ImageNet到Common Crawl：AI数据基础设施的诞生

一、开篇：AI 吃的是什么？

AI 模型不是从真空中学的——它吃数据。2026 年训练一个 1000 亿参数的大模型，需要：

几万亿 token 的文本（Common Crawl 全网爬虫数据）；
几千万到几亿张图像（LAION / DataComp）；
几千到几万小时语音（Common Voice）；
几万到几十万段视频（YouTube / HowTo100M）。

数据才是大模型的真正”老师”——算法只是”学习方法”，算力只是”学习速度”。本文梳理 AI 数据基础设施的演变。

二、第一代：小规模手工标注（1980s – 2000s）

2.1 早期 NLP 数据集

1990s 之前的 NLP 研究主要靠手工构造的小型语料库：

Brown Corpus（1961）—— 100 万词，美国英语；
Penn Treebank（1993）—— 500 万词，带语法标注；
WordNet（1995）—— 15 万词，英语语义网络；
Reuters-21578（1987）—— 新闻分类数据集。

这些数据集规模很小——但每一篇都经过语言学家手工标注。

2.2 视觉数据集

MNIST（1998）—— 7 万张手写数字图像（28×28 像素）；
Caltech 101（2003）—— 9145 张图像，101 个类别；
PASCAL VOC（2005 – 2012）—— 2 万张图像，20 个类别。

MNIST被称为机器学习的”果蝇”——大多数 1990s – 2000s 的论文都在 MNIST 上做实验。

三、第二代：大规模标注数据集（2006 – 2017）

3.1 ImageNet（2009）—— 计算机视觉的转折点

ImageNet 是 AI 数据史上的转折点。2006 年斯坦福教授 李飞飞 意识到：1990s – 2000s 的视觉数据集都太小，无法训练大规模模型。

她启动 ImageNet 项目：

目标：标注 22000 个类别的 1.5 亿张图像；
工具：Amazon Mechanical Turk——全球众包平台，让全世界低工力在线标注；
时间：到 2009 年完成 120 万张标注图像，1400 万张带边框标注。

ImageNet 不是一个普通数据集——它定义了”大规模视觉数据”的工业流程：

- 用众包代替语言学家；
- 用互联网代替学术圈；
- 用 Wikipedia 类别树代替手工分类。

3.2 ImageNet 大规模视觉识别挑战赛（ILSVRC）

2010 年开始，ILSVRC（ImageNet Large Scale Visual Recognition Challenge） 成为计算机视觉的”奥运会”：

年份	冠军	错误率
2010	NEC-UIUC	28.2%
2011	XRCE	25.8%
2012	AlexNet（Krizhevsky）	15.3%
2013	Clarifai（Zeiler & Fergus）	11.7%
2014	GoogLeNet（VGG）	6.7%
2015	ResNet（何恺明）	3.57%
2016	CUImage	3.08%
2017	Squeeze-and-Excitation	2.25%

AlexNet 的 10% 错误率降幅直接引爆了深度学习革命——这就是为什么 2012 年被称为”深度学习元年”。

3.3 其他大规模数据集

COCO（2014）—— 33 万张图像，目标检测 + 描述；
Visual Genome（2016）—— 10 万张图像，场景图；
Cityscapes（2016）—— 自动驾驶城市图像；
KITTI（2012）—— 自动驾驶基准。

四、第三代：PB 级互联网语料（2014 – 至今）

4.1 Common Crawl（2008 – 至今）—— 大模型的”语料库”

Common Crawl 是大模型数据基础设施的核心：

2008 启动——非营利组织，爬取整个互联网；
每月爬取一次——每月约 200-300 TB 原始网页；
累计——到 2025 年共爬取 200+ PB 数据；
语言覆盖——英语 50%，中文 5%，其他语言 45%。

GPT-3、LLaMA、Qwen、DeepSeek、Claude 等所有主流大模型都用 Common Crawl 作为基础数据。

4.2 The Pile（2020）—— GPT-Neo / GPT-J 的开源数据集

EleutherAI 2020 年发布 The Pile——825 GB 高质量文本数据集，包含：

Books3（BooksCorpus 全部）
PubMed Central
Stack Exchange
Wikipedia
GitHub
Common Crawl

The Pile 成为开源大模型训练的事实标准数据集。

4.3 多模态数据集

LAION-5B（2022）—— 58.5 亿图像-文本对；
DataComp（2023）—— 140 亿图像，CLIP 训练用；
Common Voice（Mozilla）—— 多语种语音数据集；
HowTo100M（2019）—— 1.36 亿视频片段；
AudioSet（Google）—— 200 万段音频，632 个类别。

五、第四代：合成数据与 RLHF（2023 – 至今）

5.1 数据枯竭问题

2023 – 2024 年，AI 研究者开始意识到一个根本问题：高质量人类生成的数据快用完了。

- 估计全网高质量文本约 10 万亿 token（Common Crawl 全部）；
- 训练下一代模型需要 100 万亿 token；
- 高质量数据缺口：10 倍。

5.2 合成数据

- Self-Play / Self-Instruct（2023）——大模型自己生成训练数据；
- Distillation（2024）——大模型的知识蒸馏到小模型；
- Constitutional AI（Anthropic，2022）——用 AI 反馈训练 AI；
- RLAIF（Google，2023）——AI 提供反馈（替代 RLHF）。

5.3 数据质量

合成数据带来新问题：模型崩溃（Model Collapse）——如果反复用 AI 生成的数据训练下一代模型，模型会逐渐失去多样性。应对方案：

1. 高质量人类数据（如学术论文、专业领域）；

2. 合成数据 + 人类验证（混合策略）；

3. 真实世界反馈（Agent 在真实环境交互）；

4. 多模态数据（图像、视频、音频补足文本）。

六、未来 5 年：数据基础设施新格局

6.1 数据集市场

2025 年开始出现专业数据集公司：

- Scale AI——数据标注独角兽；
- Surge AI——RLHF 数据集；
- Defined.ai——专业领域数据；
- Appen——众包标注。

6.2 数据法规

- 欧盟 AI Act——训练数据透明度义务；
- 中国生成式 AI 办法——训练数据合规；
- 美国版权案件——New York Times vs OpenAI（2024 起诉）——AI 训练数据是否侵权成为重大法律议题。

6.3 数据主权

中国”数据二十条”（2022）；
欧盟 GDPR；
印度数据本地化；
美国 CLOUD Act。

七、结语：数据是大模型的真正智力

回到 2026 年——大模型的”智能”不是从算法或算力中凭空产生的，而是从数据中蒸馏出来的。AI 数据基础设施的演变：

1980s – 2000s：手工标注，百万级；
2006 – 2017：众包标注，千万到亿级；
2014 – 2022：互联网爬虫，万亿级；
2023 – 至今：合成数据 + 人类反馈，多源融合。

理解 AI 数据史，才能理解大模型为什么这么”博学”——因为它读过人类几乎所有公开发表的内容。