Gemini Live APIを本番で使うときの構成を考えた｜AI Studio PreviewとVertex AIで悩んだ話 - Sweet Escape

僕はSpeech Linkというプロダクトの開発に携わっているのだが、このプロダクトでは音声会話の機能がある。この機能には生成AIを使っているのだが、ここにGoogle GeminiのLive APIを使うかどうかをずっと悩んでいた。レイテンシも体験価値も魅力的なんだけど、本番サービスに載せようとすると思いのほかいろんな制約が絡んでくるからだ。 レイテンシ・SLA・利用規約・モデル寿命の4つが絡み合う構図で、最終的にどう判断したかを記す。とはいえ、動きの早い世界なのであくまでも現時点の、だ。 なお、ちょうどこの記事の下書きを書いて公開するまでの間にUSでGoogle Cloudの年次カンファレンスであるGoogle Cloud Next 2026が開催されていて、そこでもいくつか関連するアップデートがあった。例えば、Vertex AIの生成AI・エージェント関連機能がGemini Ente