Google Cloudの生成AI(PaLM2)で社内LLM Webアプリを爆速で作ってみた - G-gen Tech Blog
G-gen 又吉です。Google Cloud (旧称 GCP) の生成 AI (Generative AI) である PaLM 2 を用いて、Cloud Run 上に社内 LLM Web アプリを構築してみました。 はじめに 前提知識 Vertex AI PaLM API Gradio Cloud Runサービスへのアクセス制御 準備 ディレクトリ構成 app.py requirements.txt Dockerfile デプロイ 動作検証 はじめに 今回は、Google Cloud の生成 AI である Vertex AI PaLM API を用いて、社内向け LLM Web アプリを Cloud Run 上にデプロイします。 また、Cloud Run サービスの認証には Identity-Aware Proxy (IAP) を用いることで、社内ユーザーのみがアクセスできる状態を構成で
ブラウザで動くサービスを作るときの技術選定
はじめに 私の仕事は、新規サービスをまるっといい感じに開発するのを委託されることがほとんどです。最近はネイティブアプリを作ることよりもブラウザで動くWebサービスを開発することが多いのですが、案件の規模感や要求によって技術選定を少し変えるようにしています。「こういうときはこう」みたいに一概には言えないのですが、普段使う構成を紹介します。誰かの参考になれば幸いです。 2022/02/10 現在での内容です。 前提 開発を委託される場合の運用費をどうするの問題があります。クライアントにクレカ登録をしてもらうか、こちらで支払って毎月請求するかになります。僕は毎月やるのがめんどくさいのでできるだけ前者に倒している関係上、あまりいろいろなSaaSを組み合わせて作ることをなるべく避けています。 規模感によらず使っているもの 私の場合、以下が使えるとめちゃくちゃ効率よく開発できます。 GCP 好きだから
GCPのサービスアカウントの鍵を作って持ち出す必要がなくなった
背景去年触っていた時は Key Management Serviceについて勘違いしていたこと - あーありがち(2018-10-21) こんな感じで、 GCPの中にコードを送り込むことを自動化する際にサービスアカウントを使うので、そのアカウントの鍵が必要pkgcloud が keyFilename がないと激おこという理由で鍵をどう管理するかを考えていたのだけど、事情が変わって鍵の管理を全部不要にできたので、これをまとめておく。 まとめpkgcloud が 2019-04 時点で依存 npm を gcloud から @google-cloud に乗り換えたおかげで client library の挙動が正しくなった 動作時のサービスアカウントの default credentials と permissions を取得できるCloud Source Repositories & Clou
マネージドNATサービス GCP Cloud NAT がリリースされました - 本日も乙
先日、GCPでNATインスタンスを構築する記事 を書いたばかりですが、なんとマネージドNATサービス Cloud NATがベータ版でリリースされました。 cloud.google.com リリースされたのでドキュメントを読んで気にあるポイントを整理 & 実際に試してみました。 GCP Cloud NATがアツい理由 NATに設定するIPアドレスについて 自動割り当て 手動割り当て ポート数と接続数の制限 タイムアウト 帯域幅 Googleサービスへのアクセスについて 価格 Cloud NATを使ってみる Cloud Routerの作成 Cloud NATの作成 特定のサブネットだけに限定したい場合 静的IPアドレスによる手動割り当てする場合 Cloud NAT経由でGCEインスタンスを利用する。 参考URL GCP Cloud NATがアツい理由 マネージドNATサービスは他のクラウドサー
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Parse.comからGCPへ移行した話 ~1年間にわたる脱出プロジェクト~
