超軽量で追加学習可能らしいLLMのAlpaca-LoRA。4090を1枚5時間で追加学習できるとか。んで試したらほんとにちゃんとうごくし推論もGPUメモリ11Gしか使わなかった。これはすげえよ。日本語も通るが英語のがよい。

stealthinu のブックマーク 2023/03/17 13:48

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4733753118035118948/comment/stealthinu" data-user-id="stealthinu" data-entry-url="https://b.hatena.ne.jp/entry/s/github.com/tloen/alpaca-lora" data-original-href="https://github.com/tloen/alpaca-lora" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fgithub.com%2Ftloen%2Falpaca-lora" data-user-icon="/users/stealthinu/profile.png">GitHub - tloen/alpaca-lora: Instruct-tune LLaMA on consumer hardware</a><ul class="comment-tag" style="list-style: none; margin: 0px;"><li style="float: left">[<a href="https://b.hatena.ne.jp/q/deeplearning">deeplearning</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/LLM">LLM</a>]</li></ul><br><p style="clear: left">超軽量で追加学習可能らしいLLMのAlpaca-LoRA。4090を1枚5時間で追加学習できるとか。んで試したらほんとにちゃんとうごくし推論もGPUメモリ11Gしか使わなかった。これはすげえよ。日本語も通るが英語のがよい。</p><a class="datetime" href="https://b.hatena.ne.jp/stealthinu/20230317#bookmark-4733753118035118948"><span class="datetime-body">2023/03/17 13:48</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

GitHub - tloen/alpaca-lora: Instruct-tune LLaMA on consumer hardware

github.com/tloen2023/03/16

🤗 Try the pretrained model out here, courtesy of a GPU grant from Huggingface! Users have created a Discord server for discussion and support here 4/14: Chansung Park's GPT4-Alpaca adapters: #340 ...

26 人がブックマーク・3 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

GitHub - tloen/alpaca-lora: Instruct-tune LLaMA on consumer hardware

はてなブックマーク

公式Twitter

はてなのサービス