admin管理员组文章数量:1534214
文章目录
-
- @[toc]
- 1 elmo是什么？
-
-
- ELMo的 特点：
- 2 Elmo训练有哪些好项目？
-
-
- **有训练过程的项目**
- **预训练模型：**
- 3 Elmo训练流程
-
- 3.1 elmo训练流程
- 3.2 elmo如何fine-tune到其他领域？？
- 3.3 elmo具体使用的方式
- 4 英文预训练模型
-
- 4.1 首推[Elmo Embeddings in Keras with TensorFlow hub](https://towardsdatascience/elmo-embeddings-in-keras-with-tensorflow-hub-7eb6f0145440)
- 4.2 allenai/bilm-tf官方使用方式
- 4.3 UKPLab/elmo-bilstm-cnn-crf
- 4.4 Using ELMo programmatically
- 5 中文训练与相关经验
-
- 5.1 相关训练项目
- 5.2 elmo实战经验小结
-
- 5.2.1 一则
- 5.2.2 二则
- 5.2.3 三则
- 5.2.4 四则
- @[toc]
-
- ELMo的 特点：
-
- **有训练过程的项目**
- **预训练模型：**
- 3.1 elmo训练流程
- 3.2 elmo如何fine-tune到其他领域？？
- 3.3 elmo具体使用的方式
- 4.1 首推[Elmo Embeddings in Keras with TensorFlow hub](https://towardsdatascience/elmo-embeddings-in-keras-with-tensorflow-hub-7eb6f0145440)
- 4.2 allenai/bilm-tf官方使用方式
- 4.3 UKPLab/elmo-bilstm-cnn-crf
- 4.4 Using ELMo programmatically
- 5.1 相关训练项目
- 5.2 elmo实战经验小结
-
- 5.2.1 一则
- 5.2.2 二则
- 5.2.3 三则
- 5.2.4 四则
1 elmo是什么？
参考：《文本嵌入的经典模型与最新进展》
人们已经提出了大量可能的词嵌入方法。最常用的模型是 word2vec 和 GloVe，它们都是基于分布假设的无监督学习方法（在相同上下文中的单词往往具有相似的含义）。
虽然有些人通过结合语义或句法知识的有监督来增强这些无监督的方法，但纯粹的无监督方法在 2017-2018 中发展非常有趣，最著名的是 FastText（word2vec的扩展）和 ELMo（最先进的上下文词向量）。
版权声明：本文标题：流水账︱Elmo词向量中文训练过程杂记 内容由热心网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：https://m.elefans.com/dianzi/1726874086a1088150.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。
发表评论