エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
Hugging Face Accelerateについてまとめ
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Hugging Face Accelerateについてまとめ
既存のモデルをDeepSpeed等(その他の最適化も選べる)を利用するように変換し、並列処理や、混合精度ト... 既存のモデルをDeepSpeed等(その他の最適化も選べる)を利用するように変換し、並列処理や、混合精度トレーニングを自動的にサポートしてくれる。 torch_xla TPUを利用するためのライブラリ torch.distributed PyTorchにおける分散コンピューティングの機能を提供するモジュール をベースに構築されたライブラリである。 acceleratorで重要そうな部分 configの作成 以下のコマンドで設定ファイルを作成する。 # accelerate config ----------------------------------------------------------------------------------------------------------------------------------------------------------