エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
huggingface tutorial「Fine-tune a pretrained model」をpytorch DDPでやってみた - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
huggingface tutorial「Fine-tune a pretrained model」をpytorch DDPでやってみた - Qiita
huggingface tutorial「Fine-tune a pretrained model」をpytorch DDPでやってみた はじめに multi GPU... huggingface tutorial「Fine-tune a pretrained model」をpytorch DDPでやってみた はじめに multi GPUで学習するためにpytorchのDistributedDataParallel(DDP)を使ってみたいと思います。 kaggleの自然言語コンペではhuggingfaceのtransformersを使い自然言語モデルをfine-tuningすることがよくあります。 そこで、kaggleで使っていくことを考えて、huggingfaceのtutorialであるFine-tune a pretrained modelをmulti GPUでやっていきたいと思います。 今回実行するプログラムはddp_trainingに保存しています。 今回使ったdocker imageも公開しているのでオンプレで実行したい方は利用してください(kagg