gemini-2.0-flashが賢くてコスパがよすぎる件

この記事はLLMをAPIで使うこと前提の記事です。 AI エージェント開発ハッカソン参加記事：Gemini 2.0 Flash で技術文書分析ツール「Tascario」を作ってみたの、技術的補足記事です。 APIでLLMを使っている皆さん gemini-2.0-flash を使っていますか？APIで使う限り、かなり性能が高く、コスパも良すぎて、APIならこれ一択で良いのでは？とすら思い始めています。

[strawberryhunter]

Webブラウザで使うと明らかに見劣りするけどAPIだと違うんだろうか。1.5は話が通じないやつで、2.0は何かちょっとまともだけど、やはり話が通じない。指示1回で使う用途には悪くないからDeepSeekが混んでいる時に使う。

[misshiki]

“APIでLLMを使っている皆さん gemini-2.0-flash を使っていますか？APIで使う限り、かなり性能が高く、コスパも良すぎて、APIならこれ一択で良いのでは？とすら思い始めています。”

[hhungry]

“シンプルなプロンプトだと、アホの子になってしまう現象”／こいういうのはまだ作りこみが甘いのが原因だと思うのでLLM側で改善して欲しい。

[secseek]

Geminiは1.5が割とアホの子だったのでそんなによくなったのかと思ったら、どうもブコメ見る限りアプリから普通にプロンプト叩く分にはやっぱりアホの子みたいですね

[stealthinu]

一旦中間言語化することでCoTしてるのと同じ効果でより高精度な答えを出せるという手法。そのくらいの工夫をしてもAPI叩くならGemini-2.0-flash使うほうがお得ということらしい。

[eroyama]

中身が違うなら名前を変えて欲しい / MicrosoftもGoogleも元からいる利用者が多すぎて、「この性能のAIを全員に提供したら凄いことになるぞ🥰」→利用者が多すぎて性能を物凄く落とす　という流れなのだろうね

[tonkas]

メモ

[isrc]

重視するのは、与えたコンテキストの範囲で理解力が低下しないこと、指示に追従する能力、日本語の読み書き性能／APIとしてではなく、対話AIアプリGeminiで2.0 Flashを使うなら、割とアホの子です。

[ytn]

現状どの生成AIも課金してまで使おうとは思わん。

[mayumayu_nimolove]

proがsonnetを凌駕してるらしいので、cursorやwindsurfに備わるといいなぁ。

[T-norf]

“Gemini 2.0 Flash”を、勝手に熟考型にしてるようなプロンプトを書いて、API越しに使う感じかな。出力トークン数はがっつり増えるだろうけど安かったり、リクエスト/分での無料枠あるしみたいな。あとでちゃんと読む

[dec123456789]

アプリの方で2.0 flash使って、こいつ頭悪いなぁと思ってたがやはりアプリ版はダメだったのか。

[aktkro]

ここまで細かいコントロールができるならたしかに使ってみたいかも

[toaruR]

『対話AIアプリGeminiで2.0 Flashを使うなら、割とアホの子です』……な、なるほど(ノ∀`)

[yarumato]

“与えた100kトークン全部理解しててほしい、指示に追従、日本語読み書き、の点で優秀なClaude 3.5 Sonnet。gemini-2.0-flashは（対話AIとしては完敗。指示追従が低い）APIで使う限りは匹敵するほど能力が高く、値段もずっと安い”

[chi-bd]

"対話型AIで対話相手とするには不適切だけど、作業員として、延々と事務処理をさせるのに向いている、というのが筆者によるGemini 2.0 Flashへの評価です。つまり、「指示の与え方」がものすごく重要になります。"

[kei_1010]

R1と比較してくれ