ローカルで動く大規模言語モデル(Rinna-3.6B)を使ってあなただけのAIパートナーを作ろう - Qiita

はじめに はじめまして。株式会社ずんだもんのアルバイトエンジニアのinadaです。 今日は誰でも作れるずんだもんと題してローカルPCにずんだもんAIを作ります。この記事はそのチュートリアル記事です。 (誰でもと書いてますが、RTX 3060(12G)搭載以上のPC推奨です。CPUマシンでも出来る部分はありますが非推奨です。RTX 3060(12G)のグラボは5万ぐらいで買えるので持ってなければ買っちゃいましょう。) 対象読者/記事の範囲 ローカルPCで動かせる大規模言語モデルを、学習用のデータの用意から、学習、動かすところまで一通りどんなものか、お試ししてみたい人。 自分だけの世界にただ一人だけのうちの子、またはパートナー(うちの嫁)を作り育てたい。そんな沼にはまりたい、興味がある人。 AIの仕組みや用語は当記事では解説しません。AIの用語(モデル, loss, epoch, checkp

[shunkeen]

YouTubeのずんだもん動画の自動文字起こし（トランスクリプト）を、スクレイピングして学習データに使ったら、ネットミーム漬けになったずんだもんLoRAが完成しそうなのだ。

[ys0000]

エアリアルじゃないと韻を踏めない。

[misshiki]

“今日は誰でも作れるずんだもんと題してローカルPCにずんだもんAIを作ります。この記事はそのチュートリアル記事です。”

[yarumato]

“RTX 3060(12G、5万で買える)搭載以上のPC推奨。メモリは32G以上。ubuntu環境。学習させるデータをカスタムして、自分専用に性格付けしたずんだもんAIを作って、Web画面でチャットします。”

[puhu208n]

初見は帰るのだ定期 / 3.6Bでこれ? 6Bを超えると急激に知性を獲得すると聞いた気がするが。実は表意文字の優位性があったりするのか

[rax_2]

どんどん革新が起きている、が、まだ取り組むにはちょっとお馬鹿そうだなぁ＞Rinna-Lora