GKE Inference Gateway について | GKE networking | Google Cloud Documentation

フィードバックを送信 GKE Inference Gateway について コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。 このページでは、Google Kubernetes Engine（GKE）Inference Gateway の主なコンセプトと機能について説明します。これは、生成 AI アプリケーションの提供を最適化するために GKE Gateway を拡張したものです。 このページでは、次の内容を理解していることを前提としています。 GKE での AI / ML オーケストレーション 生成 AI の用語。 GKE ネットワーキングのコンセプト（Service、GKE Gateway API など）。 Google Cloudでのロード バランシング、特にロードバランサが GKE とやり取りする方法。 このページは、次のような方を対象としています。