Google Colab で Llama.cpp + Vicuna-v1.5 を試す｜npaka
「Google Colab」で「Llama.cpp + Vicuna-v1.5」を試したのでまとめました。 1. Vicuna-v1.5のGGMLモデル「Vicuna-v1.5」で提供されている「GGML」モデルは、次の4つです。 ・TheBloke/vicuna-7B-v1.5-GGML ・TheBloke/vicuna-7B-v1.5-16K-GGML ・TheBloke/vicuna-13B-v1.5-GGML ・TheBloke/vicuna-13B-v1.5-16K-GGML 2. Colabでの実行Colabでの実行手順は、次のとおりです。 (1) モデルのダウンロード。 今回は、「vicuna-7b-v1.5.ggmlv3.q4_K_M.bin」を使います。 !wget https://huggingface.co/TheBloke/vicuna-7B-v1.5-GGML/r
DPO による Llama 2 のファインチューニング｜npaka
以下の記事が面白かったので、かるくまとめました。 ・Fine-tune Llama 2 with DPO 1. はじめに「RLHF」は「GPT-4」「Claude」などのLLMの事実上の最後の学習ステップとなっており、LLM出力の饒舌さや安全さが人間の期待と一致していることを確認します。ただし、RLの複雑さが持ち込まれます。適切な報酬関数を設定し、状態を推定するようにモデルを学習する必要があります。同時に、元のモデルから離れすぎないよう注意する必要があります。このようなプロセスは非常に複雑で、正しく行うのは容易ではありません。 Rafailov、Sharma、Mitchellらによる最近の論文「Direct Preference Optimization」では、既存の手法で使用されているRLベースの目標を、単純なバイナリクロスエントロピー損失を介して直接最適化できる目標に切り替えることを提
Google Colab で Code Llama を試す｜npaka
「Google Colab」で「Code Llama」を試したので、まとめました。 1. Code Llama「Code Llama」は、コードと自然言語の両方からコードとコードに関する自然言語を生成できる最先端のLLMです。研究および商用利用が可能で、無料で利用できます。 2. Code Llamaのモデル「Code Llama」は「Llama 2」ベースで、3種類を3サイズ提供しています。 ・Code Llama : 基本的なコード生成モデル ・CodeLlama-7b-hf ・CodeLlama-13b-hf ・CodeLlama-34b-hf ・Code Llama - Python : Pythonに特化したコード生成モデル ・CodeLlama-7b-Python-hf ・CodeLlama-13b-Python-hf ・CodeLlama-34b-Ptyhon-hf ・Cod
text-generation-webui の 設定項目まとめ｜npaka
1. Text generation タブ「Text generation タブ」は、テキスト生成を行うタブです。 以下の3つのモードがあり、「Inference mode タブ」で切り替えます。 ・chatモード : チャットアプリ風のモード ・notebookモード : Playground風のモード ・defaultモード : 入出力が別れているモード 1-1. chatモード・Input : メッセージ入力 ・Stop : テキスト生成の停止 ・Generate : テキスト生成 ・Continue : テキスト生成の続きの生成 ・Impersonate : なりすまし ・Regenerate : テキスト再生成 ・Remove last : 最後の会話ペアの削除 ・Copy last reply : 最後の返信のコピー (最後の返信→Input) ・Replace last re
text-generation-webui で RinnaのLoRAファインチューニングを試す｜npaka
「text-generation-webui」で「Rinna」のLoRAファインチューニングを試したので、まとめました。 前回 LoRAファインチューニングを試すLoRAファインチューニングの手順は、次のとおりです。 (1) 前々回と同じ手順で、Rinnaと会話できるように設定。 今回は、Rinnaのベースモデル (rinna/japanese-gpt-neox-3.6b) を使いました。 (2) 「Modelタブ」で「load-in-8bit」をチェックして、Rinnaモデルを再読み込み。 (3) 「あかねと〜くデータセット」(dataset_plain.txt) をダウンロードして「training/datasets」フォルダに配置。 今回は、EOSのないプレーンの方を使いました。 (4) 「Training タブ」で「Name」にLoRAモデル名を指定し、「Override Exis
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
