Cloudflare Meetup OsakaでAI Gatewayの話を聞き、AI Gatewayを使ってみた。管理画面から名前を指定するだけでAI Gatewayを作成できる。APIエンドポイントはプラットフォームによって変わり、LangChain.jsでの実装方法が紹介された。Cloudflare Workersでの処理実行やログ機能の確認方法も解説。AI Gatewayの便利な機能や課金不要の利点があり、レスポンスキャッシュやレートリミットも設定可能。LangSmithなど他のツールとも併用が可能。
![WP-kyoto](https://cdn-ak-scissors.b.st-hatena.com/image/square/32497e2aeffe3eed18c5729491865317dfc9c2f5/height=288;version=1;width=512/https%3A%2F%2Fwp-kyoto.net%2Flogo.png)