Transformer温习整理

Transformer 是由谷歌于 2017 年在 Attention Is All You Need 中首次提出。Transformer的提出在很大程度上改变了自然语言处理领域的局面,取代了传统的循环神经网络和卷积神经网络在语言模型、机器翻译等任务中的地位。

Transformer温习整理
Transformers 速查

Transformers是一个开源的自然语言处理(NLP)库,由Hugging Face开发和维护。它基于Transformer架构,提供了各种预训练模型和工具,用于解决各种NLP任务,如文本分类、问答、命名实体识别等。

Transformers 速查