HuggingFace模型种类
Autoregressive models(自回归模型)在标准语言建模任务上进行了预训练,Autoencoding models(自编码模型)是通过以某种方式破坏输入的token并尝试在预训练的时候重建原始序列;Sequence-to-sequence models(序列到序列模型)希望将所有NLP任务都转换到sequence-to-sequence问题;Multimodal models(多任务模型)将文本输入与其他类型的输入(例如图像)混合在一起,并且更特定于给定任务;