1. モデルのカテゴリ「Huggingface Transformers」のモデルは、下のカテゴリに分類されます。 ・自己回帰モデル (Autoregressive models) ・オートエンコーディングモデル (Autoencoding models) ・Sequence-to-sequenceモデル (Sequence-to-sequence models) ・マルチモーダルモデル (Multimodal models) ・検索ベースモデル (Retrieval-based models)2. 自己回帰モデル 「自己回帰モデル」は、古典的な「言語モデル」で事前学習します。一連のトークンに続くトークンを予測します。このモデルはオリジナルのTransformerモデルのデコーダに相当します。文全体にマスクが使用されているので、アテンションヘッドは、次の文の前を見ることができ、次の文の後は
![Huggingface Transformers 入門 (2) - モデル|npaka](https://cdn-ak-scissors.b.st-hatena.com/image/square/3a3fc791559a5ee5ebefabe4b5258b2fb991eafb/height=288;version=1;width=512/https%3A%2F%2Fassets.st-note.com%2Fproduction%2Fuploads%2Fimages%2F35450067%2Frectangle_large_type_2_ada1c01c514344c75ddf839b7e122d76.png%3Ffit%3Dbounds%26quality%3D85%26width%3D1280)