エントリーの編集
![loading...](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/common/loading@2x.gif)
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
LLMのファインチューニングのためのツール Axolotl|npaka
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
![アプリのスクリーンショット](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/entry/app-screenshot.png)
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
LLMのファインチューニングのためのツール Axolotl|npaka
LLMのファインチューニングのためのツール「Axolotl」の概要をまとめました。 1. Axolotl「Axolotl」は... LLMのファインチューニングのためのツール「Axolotl」の概要をまとめました。 1. Axolotl「Axolotl」は、LLMのファインチューニングのためのツールです。様々なLLM、データセット形式、アーキテクチャをサポートします。 ・「LLaMA」「Pythia」「Falcon」「MPT」などの様々なHuggingFaceモデルを学習 ・「Full Finetune」「Lora」「Kalora」Relora」「Guptak」をサポート ・単純なyamlやCLIオーバーライドで構成をカスタマイズ ・様々なデータセット形式をロードしたり、カスタム形式を使用したり、独自のトークン化されたデータセットを使用可能 ・「xFormer」「Flash attention」「Rope scaling」「MultiPacking」と統合 ・「FSDP」または「DeepSpeed」を介して単一GPUま