
词嵌入(Word Embedding)是自然语言处理(NLP)中的一项关键技术,词嵌入将词汇表中的词语映射到低维、稠密的实数向量空间。词嵌入的核心思想是让语义相近的词在向量空间中也相互靠近。词嵌入通过训练过程,语义相近的词汇在向量空间中的距离也会相近,使计算机能够通过数学运算理解和处理语言的语义关系。常见的词嵌入模型包括Word2Vec(CBOW和Skip-gram)、GloVe和FastText。这些模型通过分析大规模文本语料库中词语的共现模式来学习词向量。词嵌入为神经网络处理自然语言提供了数学基础,是所有现代语言模型的基础组件。