今回は、最新の Google Gemma モデルを Apple Silicon に最適化されたライブラリ MLX を使ってローカルで実行したり、ファインチューニングしてみましたのでその手順を紹介します。 MLX 関連の情報はドキュメンテーションが分かりづらいものも多かったので色々試した経緯も共有しながら少しでも何かの参考になれば幸いです。 実際に使った Jupyter Notebook を Gist にアップロードしていますので、そちらも参考にしてください。 →Google Gemma モデルを MLX を使ってローカルでファインチューニング 事前準備必要なライブラリをインストールします。 また Apple Silicon 搭載の Mac が必要です。今回は M3 Max 128GB 搭載の MacBook Pro で実行しました。 !pip install -U mlx mlx_lm t
![最新の Google Gemma モデルを MLX を使ってローカルでファインチューニング|alexweberk](https://cdn-ak-scissors.b.st-hatena.com/image/square/ee055f7d3b2ae8b73277c85b9c6ab47c814ede41/height=288;version=1;width=512/https%3A%2F%2Fassets.st-note.com%2Fproduction%2Fuploads%2Fimages%2F132000170%2Frectangle_large_type_2_035df3ba76a79ff3be6312ae3e6a80db.png%3Ffit%3Dbounds%26quality%3D85%26width%3D1280)