日本語Alpacaデータを用いてJapanese-Alpaca-LoRAを作ったので公開します【期間限定デモページあり】｜kun1emon

⚠️注意今回公開するのはLoRAを用いて作成したLLaMAの日本語化Adapterでありモデル自体ではありません。 LoRAをマージするベースのLLaMAは商用不可であり、今回公開するAdapterで日本語化したモデルも商用利用はできません。 OpneAIの利用規約で、OpenAIサービス、ChatGPTの出力結果を競合モデル開発用途に利用することはできません コンテンツ生成者はできません。 詳細は記事後半で述べていますが利用規約が適用されるのはコンテンツ生成者までです。 概要2022年の11月末にOpenAIからChatGPTが発表されてから、それに追随するようにGoogleからBard、MetaからLLaMAなど大規模言語モデル（LLM）が発表されました。さらにLLaMA 7Bを「text-davinci-003」を用いて「Self-Instruct」で作成された52Kのデータセット（

[prjpn]

llama、Alpacaと来てるのでKamoshikaで頑張って欲しい。

[puhu208n]

「命令、入力、出力」の3個セットは揃えにくそうだな。とりあえず一刻も早くフリーな、特に日本語のベースモデル登場が待たれる。これこそ税金や国立の研究所でやって欲しい。十億円前後で出来るはず。

[circled]

名前のせいで返事が「ミラバケッソ」しか言わないイメージがある

[wdoomer]

行動力が凄い

[netcafetaka]

sd

[stealthinu]

Alpaca-LoRAを独自で追加学習するの、コスト的には意外なほど安いのだな…　データをどうやって生成するかが考えどころと。

[misshiki]

“独自に日本語に翻訳した日本語Alpacaデータを用いて日本語での会話が可能な「Japanese-Alapaca-LoRA 7B, 13B, 30B, 65B」を作成、公開したので紹介”

[auto_chan]

diffusion界隈もふくめてLoRAを積極的に作って配布する試みは面白い。

[shunkeen]

"すべてのモデルを日本語でファインチューニングすることができ晴れて Meta山脈を制覇した気分です"／動物のラマとアルパカは南米の動物だから、南米のマテ茶にあやかってMateシリーズにしようぜ（待て）。

[plank]

モデルをMacにインストールしたい・・・

[m7g6s]

アラパカ？/修正された

[kazuph1986]

ありがたい。

[knok]

"(iii) use output from the Services to develop models that compete with OpenAI;"知らんかった…

[kane-please]

LLM GPT

[cartman0]

よくわからんけど日本語wikipediaのデータ読ませるだけじゃ駄目なの？わざわざ翻訳いるの？

[xiangze]

]