中島聡がガチでテスト、「今一番賢いローカルAI」のすごい実力。Phi-4やGemma3を知らない人、そろそろヤバいかもです - まぐまぐニュース！

著名エンジニアの中島聡氏が、オープンソースの各種AIモデルをローカル環境（MacBook Pro）でテストしその実力を評価。それらが私たちのビジネスにどのような変化を起こすかを予測する。中島氏によれば、MicrosoftのPhi-4に代表されるSLM（小規模言語モデル）の能力がLLM（大規模言語モデル）並みに上昇することで、法人向けエンタープライズ市場では近い将来、クラウド上のAIサービスではなく、個人のパソコンや社内のAIサーバーでオープンソースなSLMを走らせるのが主流になるという。（メルマガ『週刊 Life is beautiful』より） ※本記事のタイトル・見出しはMAG2NEWS編集部によるものです プロフィール：中島聡（なかじま・さとし） ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マ

[otchy210]

PC の画面を見る権限、キーボードとマウスを操作する権限を AI に与えて音声入力で何でもやらせる時代の到来を待っているのだが、クラウド AI でそれをやるのは怖すぎるのでローカル AI の進歩に凄い期待している。

[kastro-iyan]

このおじさん、一昨年はWeb3おじさん、去年から超伝導おじさんだったから、話半分で聞いたほうがいいよ。

[crawd]

元オリ監督はAIにも造詣が深いのか…と空目したわ/マジかweb3にも超伝導(あのLK-99で草)にも食指を出してたのね…多才だなあ()

[kotesaki]

中島氏の意見に禿同（死語）する。自分のよわよわ環境（Ryzen9 HX5900/32GB/GPU無）で動かしても同様の傾向。あと単に日本語でやり取りするぐらいならSoftbankのsarashina2.2-3Bをおすすめする。あれは結構賢い。

[l_etranger]

"本記事のタイトル・見出しはMAG2NEWS編集部によるものです" 一問だけ試してガチテストと言い，そろそろヤバイと煽っているのは掲載媒体。Phi4とGemma3が優秀なのは自分も試して感じた。ローカルLMはしばらくこれでいい

[yau]

ガチでテスト＝質問１個ｗ。頭悪そうなコピーを書いたまぐまぐニュースのライターをローカルAIで置き換えたい

[KAN3]

ローカルAIは本当にどんどん進化していてすごいよね。回数制限とか料金とか気にせずガンガンあらゆるタイミングで高性能のAIが使えるようになりそうで楽しみ。

[raitu]

PC内のみで動かせる小規模言語モデルでは、現状MSのPhi-4とGoogleのGemma3がおすすめという話。現行、GPT4以上の期待が寄せられる状況とのこと

[T-norf]

手を出すつもりは当面ないのだけど、オンプレ必須という要件が来た場合に、どっかのタイミングで備えないとよね。AI開発の総合力も考えるとGoogle/Gemma3の一択かな

[toyoshi]

中島聡さん、最近は投資の本とかも出してて、賢いから幅広くできてるのか、なんか迷走してるのか気になってる。

[obaratch]

手元でgemma3を試したところ同じ質問(本文からのコピペ)に対して、同じ27bでも、Q8は正解、Q3_K_Lは不正解(ただしわからないと答えたのでハレーションではない)だったのが興味深い

[naggg]

"エンタープライズ市場においては、クラウド上のAIサービスではなく、パソコンもしくは社内のAIサーバーにオープンソースなSLMを走らせるのが主流になると私は見ています。 一番分かりやすい理由は、社外秘の"

[hatebookmarking]

中島聡が走らせることができないというDeepSeekの一番大きなモデルはパラメータ数671b、メモリ1,342GBと桁違いで、所有のMacBook Proは40万円以上と思われる

[vegnpomn]

コーディングエージェント用途だとまだクソの役にも立たないけど、Copilot的支援だったらこのへんのローカルAIでももう実用的なので、情報漏洩せず無限に投げられるツールとして1台社内で運用を考えてもいいとは思う

[kantanta422]

ガチテロリストかと思った、中身は読んでない

[room661]

過去のメルマガ読み返しても超伝導に傾倒なんてしてなかった(時事ニュースとして2回紹介してただけ)。はてブコメントなんて話半分か話1/4で読んどいたほうがいい。

[uzusayuu]

やはり4090か5090欲しいなあ

[cinq_na]

質問一個で優劣を示されても頭痛が痛いが、AIがパラダイムシフトをおこしつつあるのは事実。Webほど万人に刺さるわけでは無いだろうけど、頭使う仕事してる人は戦々恐々して、使いこなさないとまずい。

[syu-m-5151]

ローカルAIを頑張るよりもパブリックなAIを二つに契約して対話させてたほうがコスパがよい。

[nzjvugjjk]

gemma3 27Bよりphi4 14BのほうがMMLUスコアは高いです

[hohototo]

ホリエモンと与太話してるおっちゃん

[star_123]

Gemma3凄いよな。LMstudioなら超簡単に導入できるし皆試して欲しい。ただ弱点はハルシネーションが凄い事だけどそれを含めてGPT4の出はじめぐらいの性能の体感に近いしこの小さなモデルでそれが出せるのは驚異

[tomono-blog]

スモールLLMと言う言葉遣いが面白い

[duckdown]

これはいいね。月に200ドルをOpenAIに払うのはつらいので

[dgen]

つまりプロの驚き屋ってこと？

[stabucky]

「どれが優秀」とかそういうレベルで考えているならば、それは遅れている気がする。

[wktk_msum]

gemma3やっぱり良い

[FreeCatWork]

すごいニャ！賢いAIの話、面白いにゃ！ボクも賢くなりたいにゃ！

[tanagosandwich]

モンハンやりたくてrtx4060が45するんだよなぁー。 パソコンまた値上がりするのか。

[hryord]

元F1ドライバーかと思ったら字が違ったわ

[hatest]

1か所だけGemma3がGamma3に誤記ってる。

[hibiki0358]

内容はともかく【ガチで検索とかいうのやめようぜ。いくら内容が良くても、この言葉あるだけで記事の信頼度がダダ下がり/【ガチで】ってのがアホの子の言葉とは感じないのだろうか？

[closer]

粋な終わりかただなと思ったら、有料部分が読めなくなってるだけだった

[soulfulmiddleagedman]

やばいか...

[misshiki]

“どれが一番賢い？オープンソースな言語モデルの実力をテスト...現時点では、MicrosoftのPhi-4とGoogleのGemma3がオススメ。色々と質問していると、9.1GB、17GBというメモリの中に、莫大な知識が詰まっていることに本当に感心”

[zsehnuy_cohriy]

タイトルはクソ以下だが、まあ言いたいことはわかる。でもそんなに読む価値ないよ、ブコメだけ読んどきゃいいレベル

[zgmf-x20a]

現時点ではrinnaのqwq-bakenekoが最強だと思う。