ラズパイで動く大規模言語モデルがGitHubで公開 性能は“GPT-3相当”、Metaの「LLaMA」派生

関連記事 Meta、独自大規模言語モデル（LLM）の「LLaMA」を限定リリース Metaは独自の大規模言語モデル「LLaMA」（Large Language Model Meta AI）を研究者向けにリリースした。「ChatGPT」のLLM「GPT-3.5」よりも小規模でも高性能としている。 Google、GPT競合のLLM「PaLM」のAPIを提供へ 生成系AIアプリ開発を支援 Googleは、大規模言語モデル（LLM）「PaLM」のAPIを発表した。PaLMのトレーニングツール「MakerSuite」と生成系AIアプリ開発プラットフォーム「Generative AI App Builder」も発表。まずはプライベートプレビューで提供を開始する。 Microsoft 365 Copilotでできること──プロンプト例で紹介 Microsoftが発表したLLM採用のビジネス支援ツール「M

[bohemian916]

「ゆっくり解説」とは、大規模言語モデルを低スペックのPCで動かした際、ゆっくりと解説文章が生成されることから、ゆっくり解説と呼ばれるようになった、というデマを思いついた

[seal2501]

残念だがしゃーない "娯楽や商用での利用は禁止"

[hhungry]

githubに「Alpaca LoRA」「Stanford Alpaca」「davinci-003」の出力比較が載ってる https://github.com/tloen/alpaca-lora

[bluescreen]

いまの生成AI、娯楽が最大の用途だと思うのだけれど。

[matchy2]

アンドレネコさんてはるき悦巳がキャラデザしそう

[syque]

“米スタンフォード大学が公開したLLM「Stanford Alpaca」を再現したという「Alpaca LoRA」。単一のGPU「RTX 4090」で5時間ほど学習させることで利用可能”

[misshiki]

“「Alpaca LoRA」がGitHub上で公開された。米MetaのLLM「LLaMA」の派生モデル「Stanford Alpaca」を再現できる”

[mas-higa]

あれか! 冬至と夏至に1行出力されるやつか!

[hinonono]

ロボットで物理的なトラブルに繋がるのは怖いし、慎重になるのも仕方ないか。最先端ってのは、機関車トーマス（の元ネタ）みたくトラブルが相次ぐもので、ITが例外的にネット等に収まり比較的安全だっただけだし。

[nilab]

「Raspberry Pi上で動かせる、GPT-3相当の大規模言語モデル（LLM）「Alpaca LoRA」がGitHub上で公開された。米MetaのLLM「LLaMA」の派生モデル「Stanford Alpaca」を再現できるという」

[urtz]

GPT4レベルのAIがモバイルで動くようになるとロボットに組み込めば擬似的な人間、アンドロイドが作れる。リモートでいいならBoston Dainamicsのロボット達に組み込めばすぐ出来そう。

[itochan]

まだ研究用途のみとのことだけど、未来がどんどん近づいてきてる。　質問したい分野ごとに小分けしてくみたいな流れはないのかなあ？と妄想。　たとえば科学だけ欲しい、翻訳機能いらない、みたいな。

[tattyu]

日本語だと1トークンで1文字とかそう言うレベルみたいなのでキツそう。

[buhoho]

"超低速ながら稼働" 動いたって言うなよ…

[napsucks]

日本語の場合、10秒に1文字ずつぽつ、ぽつと出力されるのだろうか。ご託宣のようでなんだかありがたみがあるかもしれないな。

[dec123456789]

この手の記事でGPT-3相当って言うけどさ、GPT-3のどのレベルに相当するのか書いてほしい。精度の低いGPT-3(Ada)から最も精度の高いGPT-3(Davinci)まであるわけで。

[pascal256]

スゴい！そして、MetaはAIそのものでビジネスしてないから、オープンだったり軽量なのかな？　サーバーやGPUを売る必要もないし、という邪推もついしてしまうw

[akagiharu]

普通にパソコンやスマホで自由に実行できるのがほしいな。有料でもいいから。

[otihateten3510]

学習済みってこと？？

[naggg]

1トークン当たり10秒ｗｗ

[chintaro3]

これはいろいろ使い道が有りそう

[solidstatesociety]

通信なしならばありがたい

[hazlitt]

計算力足りないとゆっくり話す、というのは少しいい

[cartman0]

“Raspberry Pi 4”

[kenzy_n]

IoTが加速する