MetaのLlama 2をDatabricksでQLoRAを使ってファインチューニングしてみる - Qiita

こちらの続きです。04_langchainは、サービングしているモデルを呼び出しているだけなのでスキップします。あと、05_fine_tune_deepspeedは途中のエラーで動かず。 QLoRAとは 私は知らなかったです。そもそもLoRAもまだよく分かってないです。こちらのようですね。 完全な16bitのファインチューニングタスクのパフォーマンスを維持しつつも、単一の48GB GPUで65Bのパラメーターモデルをファインチューニングするのに十分なメモリーの使用量を削減する効率的なファインチューニングアプローチであるQLoRAを発表します。QLoRAは凍結された4-bitの量子化された学習済み言語モデルを通じて勾配をLow Rank Adapters(LoRA)に逆伝播します。 ライブラリのインストール %pip install -U git+https://github.com/hug