跳到正文
原文
Berkeley AI Research·· 2025-09-01AI 评分51

word2vec 究竟学到了什么?研究给出闭式理论解释

What exactly does word2vec learn?

AI 导读

研究者为 word2vec 给出定量且可预测的闭式理论,证明在若干温和近似下其学习问题可归约为无权重最小二乘矩阵分解,最终学到的表示等于对一个由语料统计与超参数定义的矩阵 M* 做 PCA。

来源:Berkeley AI Research · bair.berkeley.edu