Gemma3 + Unsloth + GitLab CI/CDで構築する完全オンプレミスAIコードレビュー環境 | フューチャー技術ブログ

本記事は、CI/CD連載の6本目の記事となります。 はじめにこんにちは。HealthCare Innovation Group(HIG)の山本竜玄です。 本記事では、Gemma3とUnslothを組み合わせて、完全オンプレミス環境でのAIコードレビューができる環境を構築してみました。 フューチャーでは社内開発基盤運用チームが構築・運用するオンプレミス版GitLabを利用していますが、近年注目されるAIエージェントを導入する際に課題がありました。外部APIを利用する場合、セキュリティ審査プロセス、従量課金による予算管理の複雑さ、機密データの外部送信への懸念などが発生します。 そこで、LLMモデルを自前の環境に組み込み、プロジェクト固有のデータで追加学習を行うアプローチを試しました。Gemma3とUnslothの組み合わせにより、RTX 3060 12GBという家庭用レベルなGPU環境でもファ

[misshiki]

“Gemma3とUnslothを組み合わせて、完全オンプレミス環境でのAIコードレビューができる環境を構築してみました。”

[letsspeak]

12GBでええんか、すごー

[minamishinji]

そう来たか

[yarumato]

“Gemma3（無料ローカルLLM）とUnsloth（ファインチューニングを効率化するOSS）の組み合わせ、RTX 3060 12GBで学習。Ubuntu 24.04。モデル学習時間 約20分。コードレビュー実行時間 約3分”