Google Cloud に機械学習 API をデプロイするとき、Cloud Run と Vertex AI Endpoint のどちらを選ぶべきか？ - Commune Engineer Blog

こんにちは。2024年6月に中途入社した機械学習エンジニアの深澤(@fukkaa1225)です。新しいエキサイティングな環境を毎日楽しんでます！ 本記事では機械学習 API をデプロイする際、コストの観点からどのようなサービスを選ぶべきかについて述べたいと思います。 はじめに デプロイする先の選択肢 コスト面における Cloud Run と Vertex AI Endpoint の違い どちらが安いのか？ ケース1: リクエストが来る時間帯が一部だが、流量が大きい場合 ケース2: リクエストが常時来続けるが、流量が小さい場合 ケース3: リクエストが常時来続けていて、かつ流量が大きい場合 まとめ: Cloud Run と Vertex AI Endpoint のどちらを選ぶべきか？ Cloud Run を選ぶべきケース Vertex AI Endpoint を選ぶべきケース コミューンでは

[misshiki]

“機械学習 API をデプロイする際、コストの観点からどのようなサービスを選ぶべきかについて”