Googleによる生成AIモデル「Gemma」をMacBook(M2)で動かしてみた - Qiita

Supershipの名畑です。「【ヒプステ】-Battle of Pride 2023-【Cinema Edit】3面ライブスクリーン映像」を見てきたんですが、映画館という場の進化は素晴らしいものがあるなと思いました。 はじめに Googleから生成AIモデルGemmaがリリースされました。 Google、オープンな生成AIモデル「Gemma」公開 商用利用OK、Geminiと同じ技術の軽量LLM - ITmedia NEWS Gemma が Google Cloud で利用可能に | Google Cloud 公式ブログ このGemmaを手元のMacBook(M2)で動かしてみました。その過程を記事に残します。 コードはすべてPythonです。 注意 本記事ではgemma-7bを基本として話を進めていますが、モデルのダウンロードや推論の時間がかなりかかるため、まずは動かすことが目的であれ