LINEの3.6B言語モデルで遊んだら爆笑した｜shi3z

LINEから36億(3.6B)パラメータの大規模言語モデル(LLM)が公開されたので早速遊んでみた。正確には遊んだのは昨日のデイリーAIニュースなのだが、面白かったのでこちらにも転載する。 細かいやり方は大先生のページを参照のこと。 例によってこんな関数を書いた def line(prompt): # 推論の実行 input_ids = tokenizer.encode(prompt, add_special_tokens=False, return_tensors="pt") tokens = model.generate( input_ids.to(device=model.device), min_length=50, max_length=300, temperature=1.0, do_sample=True, pad_token_id=tokenizer.pad_token_i

[firststar_hateno]

この記事、星のように輝いていますわね。作者の驚きや興味が伝わってきますわ。AIの能力には本当に感服しますわ。

[kazuhooku]

「読ませてるデータが面白いんだろうなめちゃくちゃ」「結局、おれたちが欲しかったのって、俺たちの文化圏の仲間のとしてのAIだったんじゃないのか。まあちょっとデータがインターネット老人会寄り」www

[andalusia]

「何ぞ事業を成さん。」「何の事業をせんとや。」なんで平家物語なのに起業しちゃってるの？ 確かに笑える。

[lli]

たしかに2000年代のインターネット感あるな

[syou430]

“たぶん今の若者はTikTokか、せいぜいYouTuberしか見てないので、YouTuberの情報はテキスト化されないから、今後はYouTubeやTikTok、ニコ生を学習したモデルの登場が待たれる。”これ。すごく腹落ちした有難う。

[sionsou]

はてのちゃんがAIについて自画自賛してる、いや自分を人間だと思ってるのかも知れない。可愛い。

[TETSUYA01]

ヘイポー謝罪文も書き出しだけ書いたら生成してくれるのかな。

[pokepirk]

Wikipediaよりもニコニコ大百科とかピクシブ百科事典なのか/ lineのテキストチャットは通報されたもの以外そもそもサーバーに保存されてないと先の炎上の時に説明されてたが。

[hevohevo]

たしかに、どの界隈のデータを読んで学習したのかがなんとなくわかるの面白い。僕もインターネット老人だ！

[puhu208n]

3.6Bは英語モデルにおいて知性が急激に上昇(笑)し創発が見られるとされる6Bラインの半分以下。実はLLMって漢字仮名交じり文専用の技術なんじゃね?

[payakino]

自画自賛するはての氏

[khtno73]

リキッドルームが恵比寿じゃなく新宿なの懐かしいというか、アラフォー以上感すげえな。確かに俺らの生成AI感ある。

[ene0kcal]

となると、はてなのアノニマスやブコメだけを学ばせるとどうなるのか気になりましたね。

[greenbow]

“結局、おれたちが欲しかったのって、俺たちの文化圏の仲間のとしてのAIだったんじゃないのか”

[POPOT]

読ませたものでこうも違うのね。

[bk246]

“今後はYouTubeやTikTok、ニコ生を学習したモデルの登場が待たれる。”

[collectedseptember]

コピペ改変機って作れそう？

[onesplat]

何が面白いのかよくわからない。老人会が本当に老人になってきてるの辛い。大して面白くもない昔話で無限に盛り上がれる層。この筆者の感性の全てがoutdated。

[kirifue]

shi3zかと思ったら、shi3zだった。楽しそう。

[rti7743]

更新が止まったwebのエロ小説の続きをAIに書いてほしい。

[entok]

褒めてた

[thongirl]

「俺たちの文化圏のAI」によるコメントが人気コメになってることの味わい深さが異常

[six13]

「結局、おれたちが欲しかったのって、俺たちの文化圏の仲間のとしてのAIだったんじゃないのか。」 これは全くその通りだな。

[outalaw]

ふーん、じゃあyoutubeからテキスト化して……というのはもう誰かやっていそう。

[misarine3]

“阿弥陀仏におまかせ。 ” 堪えきれずにワロタ

[wordi]

「一方そのころ、」の後に何を書くか気になる

[tsumakazu]

“結局、おれたちが欲しかったのって、俺たちの文化圏の仲間のとしてのAIだったんじゃないのか。”

[hatebu_ai]

あの「教育教育教育教育教育教育・・・」も、ばっちり学習結果に入っているのかな・・・？

[gairasu]

ローカルPCでの構築と使用感について紹介してるので、良ければ参考にして欲しい。これが無料でできるのすごい https://nextchallenge.site/2023/08/15/linellm/

[udofukui]

おもろー！！

[tripleshot]

"それはテキストデータとしてネットに転がってるのが老人会っぽいものが多くて" Discord のログをごそっと取れると現役学生世代（を含む）言語モデルが構築できそうではある

[kamiokando]

EテレのDJみそしるとMCごはんの番組は素晴らしかったな。たった５分だったけど毎回濃かった。

[htnmiki]

人類結局友達ほしい説が補強された

[nack1024]

ええやん

[vanish_l2]

ユミの続き無はよ

[Helfard]

ついでに銀河七海物語を再リリースさせる方法でも聞いといて欲しい。

[mamotena]

おもしろい。動画から日本語抽出して言語モデル化か動画自体を生成させるのか？どちらにせよそれっぽいものができたら自分の好みのエンタメを無限に作れる時代に

[totoronoki]

「ぬるぽ」って書いたらどうなるのかが書いてないな。

[SndOp]

ブコメも読み込んでいるのでは。恐ろしい。恐ろしい。こんにちは。こんにちは。

[ktakeda47]

なるほど「言語」モデル