Llama 4 の概要｜npaka

以下の記事が面白かったので、簡単にまとめました。 ・The Llama 4 herd: The beginning of a new era of natively multimodal AI innovation 1. Llama 4本日、「Llama 4 Scout」と「Llama 4 Maverick」がリリースしました。これらは、前例のないコンテキスト長のサポートを備えた初のオープンウェイトネイティブマルチモーダルモデルであり、MoEアーキテクチャを使用して構築されています。 また、新しいモデルの教師として機能する最も強力な「Llama 4 Behemoth」のプレビューも行います。 ・Llama 4 Maverick ・17Bのアクティブパラメータ ・128のエキスパート ・合計400Bのパラメータ ・100万トークンのコンテキスト長 ・Llama 4 Scout ・17Bのアク

[zgmf-x20a]

すいません、deepseekショックで脱落したとばかり… / 使い込んでみないと何とも言えない。おそらくscout のollamaはすぐリリースされるだろうな。現在、不特定多数の方がggufに変換してくれていると思う。

[denimn]

Vibeコーディング始めるとコンテキストウィンドウの制限と向き合うからなー。Geminiが存在感だしてるのもそれがあるし。

[udddbbbu]

何と発音したらいいのかわからないままバージョン4になってしまった るらぁま？

[ebibibi]

トークン長は事実上気にする必要ない感じになっていきそうですね。

[toaruR]

すばらしいんだけど、トークン単位で課金だとやっぱ札束が必要になってしまう＼(^o^)／

[ST0RM]

AWSのベッドロックで使えます

[ys0000]

MoEなのか。

[mr_mayama]

完全に新時代に突入だな

[hamamuratakuo]

MoE（Mixture of Experts）アーキテクチャを採用し、高度な計算効率と品質を実現