はてなブックマーク

はじめに 次の 2 つの記事では、ADK で会話型エージェントを作る基本的な方法、そして、マルチエージェントの基本となるアーキテクチャーを学びました。この後の説明では、これらの記事で説明した用語が登場するので、まずはこれらの記事に目を通しておくことをお勧めします。 【超速報】Agent Development Kit で会話型エージェントを作成する 【マルチエージェント徹底入門】Agent Development Kit ではじめるマルチエージェント開発 今回の記事では、次のステップとして、画像ファイルなどのマルチメディアを取り扱うエージェントを作成します。Gemini API から単体の LLM を利用することで画像解析などができますが、このような機能を会話型のインターフェースで利用することを目指します。 ここでは一例として、クラウドストレージに保存された画像ファイルを分析する「メディア

はじめに Agent Development Kit（ADK）には、複数のエージェントが連携するマルチエージェントを手軽に実装する機能があります。ただし、マルチエージェントを利用する際は、ユースケースに応じて、「複数のエージェントがどのように役割分担するのか」というシステム構成、言い換えると、マルチエージェントのアーキテクチャーを適切に選択する必要があります。 この記事では、ADK が提供する「サブエージェント（Subagent）」と「エージェント・アズ・ア・ツール（Agent-as-a-Tool）」の機能比較を通して、マルチエージェントの基本となるアーキテクチャーを学びます。 ツールの仕組みの復習 この記事のメインテーマは、「サブエージェント」と「エージェント・アズ・ア・ツール」の比較ですが、事前準備として、下記の記事で紹介した会話型エージェントの仕組みをおさらいしながら、ADK の「ツ

2025/04/18 追記 Agent Engine にデプロイする方法を追記しました。また、それに合わせてコードの構成を一部変更しました。 はじめに Agent Development Kit (ADK) が GitHub のリポジトリで公開されました。これは、会話型の LLM エージェントを作成するためのフレームワークで、複数の外部ツールを使い分けたり、あるいは、複数のエージェントが協調動作するマルチエージェントが作成できます。特に、ADK の特徴として、会話の流れを自然言語で簡単に記述・定義できるという点があるので、ここでは、この特徴を活かした LLM エージェントの構成例を紹介します。 環境準備 Vertex AI workbench のノートブック上で実装しながら説明するために、まずは、ノートブックの実行環境を用意しましょう。新しいプロジェクトを作成したら、Cloud Shell

はじめに 下記の記事では、Gemini API の Function Calling を利用して、外部ツールと連携した LLM Agent を実装する方法を解説しました。 Gemini API の Function Calling 機能で LLM Agent を実装する そこでは、下図のループを Python の while ループで愚直に実装しました。 Function Calling を使用した Agent の動作 最近は、このような LLM Agent のループ処理を実装する際に、オープンソースのフレームワークである LangGraph を使用する方が増えているようです。また、2025年3月4日に GA になった Vetex AI Agent Engine を使用すると、LangGraph で作成した Agent を Google Cloud にデプロイして簡単に API サービス化

Google Cloud Japan のRyuSAです💪 Kubernetes は大変便利です。多くのコンテナを論理的にまとめてデプロイしたりノードのオートスケールのエコシステムが充実していたり、昨今のクラウドネイティブな環境においてなくてはならない存在です。 しかし便利である一方その挙動は複雑です。Pod をデプロイするだけでも内部的には kube-scheduler や kubelet、containerd など複数のプロセスが関与し、トラブルシューティングするためには様々なログやステータスを確認しなくてはいけません。 Kubernetes History Inspector は Google Cloud リポジトリで公開されたOSS で、Kubernetes の監査ログなどを元に特定の時間枠で Kubernetes 内で起きていたイベントをタイムライン化、オブジェクトのヒストリーを

Google Cloud Japan Advent Calendar 2024 Gemini 特集版 25 日目です。 こんにちは、カスタマーエンジニアの下門 (しもじょう) です。 2024 年は RAG (Retrieval-Augmented Generation) が非常に盛り上がりましたが、そんな年の締めくくりに Vertex AI の RAG Engine というサービスが GA (正式版) になりましたので RAG Engine + Gemini API を利用して簡単に RAG を構成する方法を紹介いたします。 RAG Engine の概要 RAG Engine は、カスタム RAG アプリケーションを簡単に実装するためのフルマネージドなデータフレームワークおよびランタイムです。 元々は Google I/O 2024 のタイミングで LlamaIndex on Verte

この記事は Google Cloud Japan Advent Calendar 2024 (Gemini編) の12/22の記事です。 こんにちは！Google Cloud の Customer Engineering Manager の Madoka です。 12/14に新しく２つのソリューション Agentspace と NotebookLM Plus が発表されました。 特に NotebookLM はコンシューマー版で使い始めている方も多いのではないでしょうか。 本ブログでは、この２つのソリューションの概要やユースケースを紹介します。 特に NotebookLMは３つのバージョンがあり、名前や使い分けが分かりにくいと思いましたのでまとめてみました。 NotebookLM Plus ってそもそも何？ NotebookLM はアップロードしたウェブサイトや文章、PDF、音声などを生成A

Google シートへ Gemini のカスタム AI 関数を組み込む Google シートでも、生成 AI Gemini の組み込み が急ピッチで進んでいます。 先日多数の Blog の評価を行う機会があった際には、Google シートと Gemini の組み合わせで、かなり効率的に評価を行うことが出来ました。 当時は GAS を利用して、力技で対応したのですが、関数として Gemini を呼び出せるようにすれば、もっと効率的な利用が出来るようになるかと思いました。 残念ながら Google シートではまだそのような関数の提供はされていないのですが、公式な提供まで待てないという方のために、本記事では Gemini のカスタム AI 関数の組み込みを試してみました。 なぜスプレッドシートでGeminiを使うのか？ スプレッドシートとAIの組み合わせは、データ分析、レポート作成、コンテンツ生

Gemini利用環境の解説(Google AI Studio,Vertex AI Studio,Gemini for Google etc) こんにちは、メディア・エンターテイメント業界 担当の Customer Engineer の Dan です。 本記事は Google Cloud Japan Advent Calendar 2024 Gemini 特集版 の 16 日目の記事です。 上記 Advent Calendar に掲載されている他の記事を見ていただけると分かる通り、Gemini といってもその利用環境やサービスとして、Google AI Studio、Vertex AI Studio、Gemini for Google Workspace、Gemini in BigQuery、Gemini Code Assist など様々なサービスがあります。色々ありすぎて、どういうシーンに

この記事は Google Cloud Japan Advent Calendar 2024 (Gemini編) の12/19の記事です。 こんにちは！Google Cloud の Customer Engineer の Noriko です。 2024年も残すところわずかとなりました。今年は生成AIが急速に普及し、私たちの働き方にも大きな変化をもたらした一年でしたね。 皆さんは、日々の業務に生成AIをどのように活用していますか？ 本記事では、Google 社員が Gemini for Google Workspace をどのように活用しているのか、具体的なユースケースをご紹介します。ぜひ、皆様の業務における AI 活用のご参考になれば幸いです！ Gemini for Google Workspaceって？ Gemini for Google Workspaceは、Googleが開発した生成A

Google Cloud Japan Advent Calendar 2024 の 10 日目にリリースすることを目指していた記事です。 本日のテーマは Cloud Run で Gemma 2 を動かす方法、そして GKE を利用した場合との違いについて簡単にご紹介する記事です。GKE で Gemma 2 を動かす方法については今年のアドベント カレンダーの 3 日目の記事である Gemma2 を GKE 上でいい感じに動かしたい (推論編) に解説がありますので、よろしければそちらも併せて読んでいただけますと幸いです。 なお、本記事はあくまでも Cloud Run がメインなので推論ライブラリのパラメータなどのチューニングは扱いません。また、Cloud Run と GKE のどちらかのみをおすすめするという趣旨でもありません。言語モデルをホストする際に Cloud Run と GKE の

概要 Gemini を用いた少サイズデータを用いたコンテンツ生成に焦点を当て、構造化データ（CSV、JSON など）を効果的に活用する方法をPythonを用いて解説します。Gemini が持つ大規模トークン処理能力のメリットを活かした、より効率的なコンテンツ生成手法を提案します。 序論 AI が急速に進化する時代において、大量のデータを分析・活用する能力は極めて重要です。RAG 環境はこうしたタスクに理想的ですが、より少量のデータでコンテンツ生成を行う必要があるシナリオもあります。Gemini は、大量のトークンを処理できるため、有望な解決策を提供します。プロンプトとアップロードされたファイルを組み合わせることで、限られたデータでも効果的に活用できます。ただし、CSV や JSON などの構造化データ形式を扱う際には、AI が情報を正確に解釈・理解できることを保証する必要があります。ここで

Google Cloud Japan のメンバーが書く Advent Calendar 2024 です。去年とは違い、今回は通常版と、主にGeminiに関する内容に限定したGemini特集版の２種類の Advent Calendar を実施いたします！ 各部門の人達が是非紹介したい機能、いままで培ってきたノウハウ、知っておくと便利な Tips などを公開予定です。 記事は毎日更新されていきますが、公開予定記事のトピックのみ最初に公開いたします！ぜひ毎日チェックしていただけると嬉しいです。 この Advent Calendar は Google Cloud 製品などに関連するコミュニティが記載したテクニカル記事集です。掲載された意見はすべて著者個人のものであり、必ずしも Google のものを反映するものではありません。 通常版 12/1 Google のソフトウェア開発における生成 AI

はじめに Spannerはマネージドデータベースとして提供されているサービスです。そのためパッチ適用やハードウェアのメンテナンスなど、データベースで日常的に発生する運用面での作業の多くは自動的に実施されます。 一方で、データベースの運用という観点ではそれ以外の必要な作業や考慮するべき事項、監視ポイントなどがあります。一般的なリレーショナルデータベース（以下、RDB）と同様の操作もありますが、Spanner特有の概念も存在します。これらについて、RDBとの差分を中心に解説します。理由が明らかな内容についてはその背景となる理由も極力記載しました。 ストレージ ストレージサイズ Spannerではストレージサイズはテーブルに書き込んだデータの量に応じて自動的に拡張されます。そのため、一般的な意味でストレージの残り容量を監視する必要はありません。ただし、1ノードあたり10TiBというストレージの上

「図解即戦力 Google Cloudのしくみと技術がこれ1冊でしっかりわかる教科書［改訂2版］」をより効果的に読むポイント 「図解即戦力 Google Cloud のしくみと技術がこれ 1 冊でしっかりわかる教科書」とは Google Cloud の基礎知識が学べる「図解即戦力 Google Cloud のしくみと技術がこれ 1 冊でしっかりわかる教科書」が、2024 年 9 月 (電子書籍版は 8 月) に出版されました。 こちらの書籍は Google Cloud のパートナーエンジニアと Google Cloud のパートナーである grasys さんの共著となっており、実際に Google Cloud を現場で使用しているプロフェッショナルの視点で初学者・中級者向けに書かれています。そのため、本書は これから業務で Google Cloud を使用する上で必要な知識 がまとめられた

何の話かと言うと Google Cloud で提供される基盤モデルの Gemini 1.5 Pro / Flash には、Google 検索や Vertex AI Search と連携するグラウンディング機能があります。この機能の使い方を説明します。 基礎知識の確認 大規模言語モデルは、モデルの学習時に得た情報をもとに回答を生成するため、学習時に存在しない情報を必要とする質問には正しく回答できません。この課題を解決する方法として、大きく、ファインチューニングとプロンプトエンジニアリングの 2 つの手法があります。 大規模言語モデルの回答品質を向上する方法 ファインチューニングは、追加学習用のデータや学習処理を実行するインフラが必要となるので、まずは、プロンプトエンジニアリングを試す場合が多いでしょう。プロンプトエンジニアリングによる改善例としてよくあるのが、学習時に存在しない情報をプロンプ

Cloud Run のサービスメッシュを試した 以前から GKE では Cloud Service Mesh を使ってサービスメッシュを利用することができましたが、Cloud Run でもサービスメッシュを利用できるようになりました（作成時点の2024-09-02ではプレビュー段階）。 この記事ではサービスメッシュならではの機能をサンプルアプリを使って確認します。 検証シナリオ 検証環境の構成 サンプルアプリとして Istio のドキュメントに掲載されている bookinfo （本の情報やレビューが見られる Web アプリで、マイクロサービスで実装されている）のコンテナイメージを利用します。 検証する機能 下記の4点について確認を行います。 サービス間の認証、認可を自動的に行う 従来の Cloud Run では ID トークンを明示的にヘッダに付与してリクエストを送信する必要があり、アプリ

2023年は「Cloud Run を触って覚える」をテーマとした一人アドベントカレンダーを一人で開催しており、Cloud Run のさまざまな機能や、Cloud Run でよく使う構成などを実際の使い方と一緒にご紹介しています。 9日目はスケーリングに関する機能についてご紹介します。Cloud Run サービスに対して負荷テスト ツールを使って実際に負荷をかけながら確認していきます。負荷テスト ツールには「Locust」を使います。GKE Autopilot を使った構築方法は次の記事を参照してください。 Cloud Run の概要は技術評論社さまのブログ「gihyo.jp」に寄稿した記事で解説していますのでこちらもぜひご覧ください。 インスタンスあたりの最大同時リクエスト数 (コンカレンシー) 1 つのコンテナ インスタンスが受け付けることができる最大リクエスト数を設定することができます

Gemini 1.5 のロングコンテキストを活かして AI を育てるアプローチ 〜 RAG の限界を軽やかに突破するために はじめに この記事では、Gemini 1.5 のロングコンテキストを活かして LLM を用いた AI システムを段階的に育てるアプローチを説明します。後半では、RAG システムの導入ハードルを下げるためにこのアプローチを適用するイメージをサンプルコードとあわせて紹介します。 ここではまず、前提知識となるグラウンディングや RAG の仕組みを説明します。 グラウンディングと RAG の違いについて LLM の業務活用に向けて勉強していると、かならず耳にするのが「グラウンディング」や「RAG」というキーワードです。グラウンディングは、LLM の基盤モデル自身が保有していない（学習していない）追加の参考情報をプロンプトに埋め込む事で、参考情報に基づいた回答を生成させるテクニ

Google Cloud でも Gemini やその他の生成 AI のモデルやソリューションが多く発表されています。今回は、その中でも、Looker から Gemini を利用した拡張機能の紹介の第1弾として Explore Assitant を紹介したいと思います。 第2弾の Dashboard Summary の記事は こちら です。 tl;dr Explore Assistant を使えばチャット形式でデータへの問い合わせやチャート作成が可能 Gemini は多くの言語に対応しているので、日本語でも問題なく利用可能 エンジニアの方であれば、プロンプトなどのカスタマイズを行い、精度向上が可能 Explore Assitant とは Explore Assitant は、公式に Looker に組み込まれた機能ではなく、Looker Extension (拡張機能) を利用して Look

何の話かと言うと Google Cloud で利用可能なマルチモーダル対応の基盤モデルである Gemini 1.5 Pro / Flash に対して、Context caching の機能が利用可能になりました。これがどのような機能で何の役に立つのかを実際の使用例とあわせて、わかりやすく説明します。 Context caching のない時 Gemini はマルチモーダル対応モデルなので、プロンプトに動画などのメディアコンテンツを埋め込むことができます。具体的には、次のように Python のリスト形式でプロンプトを構成します。

LLM Agent 入門 データ処理パイプラインと LLM Agent の違い Google Cloud の Gemini API には Function Calling 機能が実装されており、基盤モデルの Gemini に「外部 API を利用して回答に必要な情報を収集する」という動作が追加できます。ここでポイントになるのは、「どの API をどのように使用すれば回答に必要な情報が得られるか？」という部分を Gemini 自身に考えさせるという点です。これを利用すると、いわゆる LLM Agent が実装できます。 集めるべき情報の種類や処理の手順があらかじめ決まっている場合は、LLM によるテキスト生成を組み込んだデータ処理パイプラインを実装する方が安定的に動作する（期待する結果が確実に得られる）はずですが、特定の手順を前提としない柔軟な処理を実現する際は LLM Agent が向いて

この記事の目的 リレーショナルデータベース（以下、RDBMS）を大規模に利用されるときの構成手法として、データベースシャーディング（Database sharding）という方法があります。オンラインゲームやSaaSなどアクセス頻度が高く、個別のユーザーごとの操作による更新量が大きい用途などでデータベースの書き込み性能の限界に対しての回避策として多くの場面で利用されている手法です。 この手法の実現方法や得失について簡単に解説したあと、この手法の経験者がSpannerを使う場合にシャーディングでの概念をどのようにSpannerに対応できるか解説します。 シャーディングについては十分わかっており、概念の読み替えだけを知りたい方は最後の表をご覧ください。 RDBMSでのシャーディングの構成 シャーディングは通常水平分割で実現されます。つまり1つのテーブルのレコードを複数の異なる物理データベースに

はじめに Vertex AI Agent Builder で作る検索システム Vertex AI Agent Builder（旧 Vertex AI Search & Conversation）を使用すると文書検索システムが簡単に構築できて、コンソール上のデモ用検索ポータルから検索処理が体験できます。検索キーワードの「意味」を理解して検索するセマンティックサーチを行うので、次のように微妙にタイプミスをしても、こちらの意図を汲み取って検索結果を返してくれます。また、検索結果のサマリーテキストも表示されます。 コンソールの検索ポータルで検索する例 Vertex AI Agent Builder による検索システムは、次のような構成になります。「データストア」と「検索アプリ」の2つのコンポーネントを作成して利用します。 Agent Builder による検索システムの構成図 データストアは、ドキ

BigQuery で音声文字変換モデルのプレビュー版をご利用いただけるようになりました🥳 BigQuery 上で 音声ファイルを簡単に文字変換して他の構造化データと組み合わせ、分析を行うことが可能です。（公式ブログもご確認ください！） これまで、音声データをスケーラブルかつ管理された方法で AI モデルに接続して、音声データから大規模なインサイトを得ることは困難でした。なぜなら、音声データの分析を行うためには、音声データの書き起こしのために個別の AI パイプラインを構築する必要があったからです。これらのパイプラインは BigQuery からサイロ化されており、文字変換されたデータを BigQuery に取り込むためにはカスタム インフラストラクチャを作成する必要がありました。 しかし、BigQuery 上で音声文字変換モデルをご利用いただくことで、SQL のシンプルさとパワーを活用して

2023年は「Cloud Run を触って覚える」をテーマとした ひとりアドベントカレンダー を開催しており、Cloud Run のさまざまな機能や Cloud Run でよく使う構成などをご紹介しています。 21日目は Cloud Run を使って WordPress サイトを構築する方法についてご紹介します。 Cloud Run の概要は「gihyo.jp」で解説していますので、こちらもぜひご覧ください。 WordPress on Cloud Run WordPress は CMS の定番の一つと言える、主にブログやニュースサイトなどのコンテンツ管理のための無料で使えるオープンソースソフトウェアです。 WordPress はコンテナ イメージが Docker 公式で提供されており、コンテナで運用することが比較的簡単です。コンテナといえば Cloud Run と言うことで、WordPre

はじめに こんにちは！Google Cloudでオブザーバビリティを担当しているものです！ここ1ヶ月ほどでOpenTelemetry for Goにエグザンプラーに関するパッチが2件入り、先日の1.23.0と1.24.0のリリースでその両方が取り込まれました。 まだ試験的な機能ではありますが、早速エグザンプラーを試してみましょう。 TL;DR トレースエグザンプラーの取得をOpenTelemetryで行うデモを用意しました。Google Cloudのアカウントがあれば割と簡単に試せるはずです。ローカルやKubernetesでも動かす場合も手元での修正はそんなに難しくないと思います。 詳細はREADMEを読んでみてください。 エグザンプラーとは そもそもエグザンプラー（Exemplar）とは何かについて紹介すると、集約されたメトリクス（ヒストグラム、合計値、平均値、最小値、最小値など）をアノ

2023年は「Cloud Run を触って覚える」をテーマとした ひとりアドベントカレンダー を開催しており、Cloud Run のさまざまな機能や Cloud Run でよく使う構成などをご紹介しています。 20日目は Cloud Run と Cloud Storage FUSE の基本的な使い方についてご紹介します。 Cloud Run の概要は「gihyo.jp」で解説していますので、こちらもぜひご覧ください。 Cloud Storage FUSE (GCS FUSE) とは オープンソースの FUSE アダプタを使用した、Cloud Storage バケットをファイルシステムとしてマウントする方法です。Cloud Run からも利用することができ、Cloud Storage を複数のコンテナ間、サービス間、ジョブ間の共有ストレージとして利用することができます。 Cloud Stor