自然语言处理(NLP)的发展脉络分三段:1950年图灵测试提出、90年代统计方法兴起让机器从语料学习规律、2013年Word2Vec把单词转成向量、2018年Transformer问世推动对话式大模型,解决早期规则系统难以覆盖复杂表达的问题,并不解决多义词与文化语境的歧义。
- 早期尝试(1950s-1980s)
NLP的开端与AI的诞生几乎同步。1950年,英国数学家图灵(Alan Turing)提出了“图灵测试”:如果机器能和人用语言交流,让人分不出是机器还是人,就算它有智能。这激发了人们对NLP的兴趣。
早期的NLP靠“规则系统”。比如,程序员会手动写规则:如果句子有“天气”+“怎么样”,就去查气象数据。但这种方法很笨拙,语言一复杂(比如俚语或长句),规则就跟不上了。 - 统计方法的兴起(1990s-2000s)
到了90年代,计算机算力提升,数据也多了起来。研究者开始用统计方法,让机器从大量文本中“学”语言规律。比如,通过分析一堆新闻,机器发现“天气”和“晴天”经常一起出现,就知道它们有关联。这种方法比规则系统灵活多了,像谷歌翻译最初就是靠统计模型。 - 深度学习的革命(2010s至今)
上一期讲到的深度学习彻底改变了NLP。2013年,Word2Vec模型问世,它能把单词变成数字向量(比如“猫”和“狗”的向量很接近,“猫”和“桌子”就很远),让机器理解词义。2018年,Transformer模型(后面会细讲)横空出世,推动了ChatGPT这样的超级AI诞生。现在的NLP不仅能翻译,还能写诗、聊天,甚至模仿特定的人说话。