タグ

LoRAに関するkurojzのブックマーク (4)

  • Stable DiffusionのLoRAのつくりかた|RedRayz

    はじめにこの記事は、初めてStable DiffusionのLoRAを作成する方に向けた解説です。わかりづらかったらすみません。 この解説ではSDXLベースのAnimagine-XL-3.1で二次元イラストのキャラクターのLoRAを作成します。 注意すでにWebUIの環境構築と生成ができていて生成に慣れている前提のガイドとなります。 Windows向けのガイドです。 また、NVIDIAのGeForce RTXグラフィックボード(VRAM 8GB以上)が搭載された高性能なパソコンが必要です。 そもそもLoRAってなんぞや?Low-Rank Adaptationが正式名称です。 難しくいうと、ウェイトとデータセットの差分を出力するものです。低ランクの行列に分解してからファインチューンすることで少ないメモリで学習できるようにしたものです。 簡単に言えば、LoRAはキャラ、衣装、シチュエーションや

    Stable DiffusionのLoRAのつくりかた|RedRayz
  • LLM の LoRA / RLHF によるファインチューニング用のツールキットまとめ |npaka

    「LLM」の「LoRA」「RLHF」によるファインチューニング用のツールキットをまとめました。 1. PEFT「PEFT」は、モデルの全体のファインチューニングなしに、事前学習済みの言語モデルをさまざまな下流タスクに適応させることができるパッケージです。 現在サポートしている手法は、次の4つです。 ・LoRA ・Prefix Tuning ・P-Tuning ・Prompt Tuning ◎ LLaMA + LoRA 「Alpaca-LoRA」は、「LLaMA」に「LoRA」を適用して「Alpaca」の結果を再現するためのコードが含まれているリポジトリです。「finetune.py」がLoRAの参考になります。 ・tloen/alpaca-lora ◎ RedPajama-INCITE + LoRA 「INCITE-LoRA」は、「RedPajama-INCITE」に「LoRA」を適用する

    LLM の LoRA / RLHF によるファインチューニング用のツールキットまとめ |npaka
  • イラストに精緻なディテールを追加できる「flat LoRA」の紹介【Stable Diffusion】

    をしていきます。 先日某所で情報をチェックしていたところ、LoRAモデルの画期的な活用方法を考案した方が登場して大変話題になっていました。なぜそんなに話題になったのかというと、その方が作成したLoRAモデルをうまく使えばイラストに圧倒的なディテールを追加できるからです。 ここではそのLoRAモデルである「flat LoRA」の概要や使い方をご紹介しますね。

    イラストに精緻なディテールを追加できる「flat LoRA」の紹介【Stable Diffusion】
    kurojz
    kurojz 2023/05/03
  • kohya版LoRA初心者教本 服を着せ替えできる高性能キャラLoRAをつくろう!|かたらぎ

    AI(Stable Diffusion WebUI)で画像生成をしていると意外と言うことを聞いてくれないということがよくありますよね。例えばキャラクターの髪や目や服の色がまちまちだったり、そもそもうまく出せなかったり……そんな悩みを解消するのが今日ご紹介するLoRAというわけです。 そもそもLoRAって何? 簡単に言えば素材となる画像を20~30枚程度用意し、AIに特徴を覚えさせることで人物や、背景、絵柄などを簡単に変更できるファイルのことです。  Hugging Faceやcivitaiなどには多くのLoRAが公開されています。にきもなか先生がまとめてくださっているので、どんなものがあるのか気になる方はこちらをご覧ください。 Civitaiに公開されているLoraの昨日公開分までをまとめました。 AI制作の一助になれば幸いです。 多分600個くらいあります あなたの性癖の為のLoraリン

    kohya版LoRA初心者教本 服を着せ替えできる高性能キャラLoRAをつくろう!|かたらぎ
  • 1