Gemini 1.5 のロングコンテキストを活かして AI を育てるアプローチ 〜 RAG の限界を軽やかに突破するために はじめに この記事では、Gemini 1.5 のロングコンテキストを活かして LLM を用いた AI システムを段階的に育てるアプローチを説明します。後半では、RAG システムの導入ハードルを下げるためにこのアプローチを適用するイメージをサンプルコードとあわせて紹介します。 ここではまず、前提知識となるグラウンディングや RAG の仕組みを説明します。 グラウンディングと RAG の違いについて LLM の業務活用に向けて勉強していると、かならず耳にするのが「グラウンディング」や「RAG」というキーワードです。グラウンディングは、LLM の基盤モデル自身が保有していない（学習していない）追加の参考情報をプロンプトに埋め込む事で、参考情報に基づいた回答を生成させるテクニ

Google Cloud でも Gemini やその他の生成 AI のモデルやソリューションが多く発表されています。今回は、その中でも、Looker から Gemini を利用した拡張機能の紹介の第2弾として Dashboard Summary を紹介したいと思います。 第1弾の Explore Assistant の記事は こちら です。 tl;dr Dashboard Summary を使えば、ボタンを押すだけで、要約やネクストステップの提案を作成 新規でも既存でもすべてのダッシュボードに追加して簡単に利用可能 エンジニアの方であれば、プロンプトや要約内容などのカスタマイズを行い、精度向上が可能 Dashboard Summary とは Dashboard Summary は、公式に Looker に組み込まれた機能ではなく、Looker Extension (拡張機能) を利用して

Google Cloud でも Gemini やその他の生成 AI のモデルやソリューションが多く発表されています。今回は、その中でも、Looker から Gemini を利用した拡張機能の紹介の第1弾として Explore Assitant を紹介したいと思います。 第2弾の Dashboard Summary の記事は こちら です。 tl;dr Explore Assistant を使えばチャット形式でデータへの問い合わせやチャート作成が可能 Gemini は多くの言語に対応しているので、日本語でも問題なく利用可能 エンジニアの方であれば、プロンプトなどのカスタマイズを行い、精度向上が可能 Explore Assitant とは Explore Assitant は、公式に Looker に組み込まれた機能ではなく、Looker Extension (拡張機能) を利用して Look

何の話かと言うと Google Cloud で利用可能なマルチモーダル対応の基盤モデルである Gemini 1.5 Pro / Flash に対して、Context caching の機能が利用可能になりました。これがどのような機能で何の役に立つのかを実際の使用例とあわせて、わかりやすく説明します。 Context caching のない時 Gemini はマルチモーダル対応モデルなので、プロンプトに動画などのメディアコンテンツを埋め込むことができます。具体的には、次のように Python のリスト形式でプロンプトを構成します。

LLM Agent 入門 データ処理パイプラインと LLM Agent の違い Google Cloud の Gemini API には Function Calling 機能が実装されており、基盤モデルの Gemini に「外部 API を利用して回答に必要な情報を収集する」という動作が追加できます。ここでポイントになるのは、「どの API をどのように使用すれば回答に必要な情報が得られるか？」という部分を Gemini 自身に考えさせるという点です。これを利用すると、いわゆる LLM Agent が実装できます。 集めるべき情報の種類や処理の手順があらかじめ決まっている場合は、LLM によるテキスト生成を組み込んだデータ処理パイプラインを実装する方が安定的に動作する（期待する結果が確実に得られる）はずですが、特定の手順を前提としない柔軟な処理を実現する際は LLM Agent が向いて

tl;dr VSCode の拡張機能で動作する SQLTools というデータベース管理ツールがあります Spanner のドライバがあるのでエディタ上から Spanner へクエリを実行したり、その結果を確認できます SQLTools の機能として、クエリ結果の CSV や JSON へのエクスポート機能があるのでちょっとした結果に利用できます SQLTools SQLToolsとは、VS Code 上で動作するデータベース管理ツールです。 テーブルの一覧やテーブルの定義を確認したり、クエリーを実行したり、その結果を表として得る事が可能です。 SQLTools のインストール方法 SQLTools は VS Code の拡張機能のマーケットプレースからインストール可能です。SQLTools で検索するとヒットするはずですので、選択してインストールください。 SQLTools の Span

はじめに こんにちは！Google Cloudでオブザーバビリティを担当しているものです！ここ1ヶ月ほどでOpenTelemetry for Goにエグザンプラーに関するパッチが2件入り、先日の1.23.0と1.24.0のリリースでその両方が取り込まれました。 まだ試験的な機能ではありますが、早速エグザンプラーを試してみましょう。 TL;DR トレースエグザンプラーの取得をOpenTelemetryで行うデモを用意しました。Google Cloudのアカウントがあれば割と簡単に試せるはずです。ローカルやKubernetesでも動かす場合も手元での修正はそんなに難しくないと思います。 詳細はREADMEを読んでみてください。 エグザンプラーとは そもそもエグザンプラー（Exemplar）とは何かについて紹介すると、集約されたメトリクス（ヒストグラム、合計値、平均値、最小値、最小値など）をアノ

本記事では、2024/2/26 16:30-18:00 に行われた、Google Cloud UPDATES 2024 Q1 DA/ML 編の内容を抜粋して紹介していきます。 今回のカバー範囲は、2023/10/1 - 2024/1/15 のアップデート内容 + α です。 Google Cloud UPDATES とは まとめブログは初回なのでイベントの紹介をしておきます。 このイベントは、2021年に Google Cloud Japan の有志で始めたイベントです。四半期に2回、テーマを分けて開催しており (データ分析/ML 編、Compute/DB 編)、Google Cloud のプリセールス エンジニアが、製品アップデートのイチオシを紹介していきます。 クラウド界隈は非常にアップデートが激しいです。プロダクトも日々増えてくる中、「1年前できなかったことが、気づいたら簡単にできる

2023年は「Cloud Run を触って覚える」をテーマとした ひとりアドベントカレンダー を開催しており、Cloud Run のさまざまな機能や Cloud Run でよく使う構成などをご紹介しています。 最終日、25日目は Cloud Run を中心としたサーバーレス アーキテクチャをいくつか紹介します。2023年にちなんで23個のアーキテクチャを用意しました。 Cloud Run の概要は「gihyo.jp」で解説していますので、こちらもぜひご覧ください。 Web アプリケーション + API の 3-Tier 構成 (SPA) Web アプリケーション + API の 3-Tier 構成 (SPA) SPA (Single Page Application) がフロントになり、バックエンドの API サーバーとして Cloud Run を使用するアーキテクチャです。SPA は N

今年、Secure Web Proxy（SWP）というマネージドサービスがGAとなりました。 これを使用することでGoogle Cloudからの下り（外向き）の通信を保護することが可能です。 公式ドキュメントのクイックスタートではVPC内のComputeEngineからSWP経由で外部とアクセスする手順が紹介されています。 本記事ではサーバーレス製品（Cloud Run）からのSWPを使用する手順を試してみます。

2023年は「Cloud Run を触って覚える」をテーマとした ひとりアドベントカレンダー を開催しており、Cloud Run のさまざまな機能や Cloud Run でよく使う構成などをご紹介しています。 23日目は Cloud Run のモニタリングとロギングの基本的な機能について紹介します。モニタリングとロギングの機能は多機能ですが情報量も多いので、全体感が掴めるようにまとめてみました。 Cloud Run の概要は「gihyo.jp」で解説していますので、こちらもぜひご覧ください。 Cloud Run コンソールで簡単にログやメトリクスを確認できる Cloud Run では、アプリケーションへのカスタマイズを行わずとも、自動的に出力されるログや自動的に収集されるメトリクスがあります。そのため、モニタリングのための特別な設定や構成は必要ありません。 そしてそれらの情報は Cloud

本記事は Google Cloud Japan Advent Calendar 2023 の 入門編 17 日目の記事です。 皆様、いかがお過ごしでしょうか？ Google Cloud パートナーエンジニアの山中です。 昨年も以下の記事で Analytics Hub を取り上げたのですが、今年は 2023 年にあった Analytics Hub のアップデートをまとめたいと思います。 Analytics Hub とは Analytics Hub は組織間でデータを効率よく安全に共有可能とする BigQuery を基盤としたデータシェアリング サービスです。データを共有することに主眼をおいたサービスとなっており、例えばグループ会社間でのデータ共有やオープンデータの公開などのユースケースに適用できます。 詳細については 前回の記事 に記載しているので、そちらをご覧ください。 2023 年にあっ

こんにちは、流行りに乗りたくなる、Google Cloud Japan Advent Calendar 2023 運営です。 この記事は Google Cloud Japan Advent Calendar 2023 5 日目の記事です。 みなさん、Google Cloud を使う際、 Service Account の Key を発行していませんか？そしてその Key は正しく管理運用されていますか？Key を発行すると非常に管理運用にコストが掛かり、、端的に言うと非常にめんどいです。 本記事ではどのようにできるだけ Service Account Key の作成を避け、効率的に認証をするかを解説します そもそもなぜ Service Account Key を使うことを避けたいのか 「端的に言うと非常にめんどい」と言いましたが、一体どのような脅威が考えられるでしょうか。 認証情報の漏えい

2023年は「Cloud Run を触って覚える」をテーマとした一人アドベントカレンダーを一人で開催しており、Cloud Run のさまざまな機能や、Cloud Run でよく使う構成などを実際の使い方と一緒にご紹介しています。 16日目は Cloud Run サービスと Identity-Aware Proxy についてご紹介します。 Cloud Run の概要は技術評論社さまのブログ「gihyo.jp」に寄稿した記事で解説していますのでこちらもぜひご覧ください。 Identity-Aware Proxy とは Identity-Aware Proxy (IAP) は Cloud Run などのアプリケーションへのアクセスを保護するためのサービスです。ユーザー ID を確認し、コンテキストに応じてアクセスの許可・拒否を判断させることができます。 Identity-Aware Proxy

2023年は「Cloud Run を触って覚える」をテーマとした一人アドベントカレンダーを一人で開催しており、Cloud Run のさまざまな機能や、Cloud Run でよく使う構成などを実際の使い方と一緒にご紹介しています。 15日目は Cloud Run と Memorystore for Redis のインテグレーションについてご紹介します。 Cloud Run の概要は技術評論社さまのブログ「gihyo.jp」に寄稿した記事で解説していますのでこちらもぜひご覧ください。 Memorystore とは Memorystore はインメモリ サービスのマネージド サービスです。キャッシュ エンジンを提供するスタンダードな OSS である Redis クラスタ、Redis、Memcached と 100% 互換性のあるインメモリ サービスを構築でき、アプリケーションのキャッシュ レイヤ

はじめに アプリケーションモダナイゼーションスペシャリストの関本と申します。 今回は、Google Cloud Japan Advent Calendar の 8 日目の投稿として、アプリケーションモダナイゼーションとあまり関係がない、Workforce Identity Federation についてご紹介します。 TL;DR Workforce Identity Federation を利用すると Cloud Identity を利用せずに他の IdP(Microsoft Entra ID などの外部 ID プロバイダー) の ID で Google Cloud を利用できます。 Workforce Identity Federation　とは？ Google Cloud の外部(他のクラウドや Kubernetes など)で実行されているアプリケーションが、Service Accou

VS Code で Duet AI を使おう この記事は Google Cloud Japan Advent Calendar 2023 (入門編) の 5日目の記事です。遅れてしまってすみません！ この記事では Duet AI をアプリケーション開発に使うための方法をご紹介したいと思います。 Duet AI for Developers Duet AI は今年リリースされた、Google Cloud の各サービスで利用できる AI アシスタンス機能の総称です。Google Docs 内での文章生成や Google Slides での画像生成などのような機能のほか、開発向けにはコードやクエリ文の自動生成、ソースコードの解説、トラブルシューティングなどに活用できます。人間に近いクオリティで、これまで人間が行っていたタスクの一部を任せたり、AI と共同でこなしていくことができるようになっていま

この記事は Google Cloud Advent Calendar 2023 (通常版) の 12/6 の記事です。 Cloud Run はコンテナ アプリをサーバーレス で実行するためのプロダクトですが、統合されている機能を利用せずに、単にアプリ基盤として利用するだけではもったいありません。今回は開発用途、また CI/CD を応用する例を考えてみたいと思います。 要約 ソースコード管理として GitHub を利用し、CI/CD 経由で Cloud Run へアプリをデプロイするフローを応用して、Pull Request 毎にアプリを確認できる URL を作成するフローを作ってみたいと思います。GitHub 以外でも可能ですが、今回の例では GitHub Actions を一部利用しています。 全体のアーキテクチャは以下のようになります。 サンプル コードはこちらにあります。 gclou

この記事は Google Cloud Advent Calendar 2023 (通常版) の 12/3 の記事です。 3日目は2日目に続き、Firebase Extensions をテーマにしたブログをお送りします。 先日開催された Google Cloud Next Tokyo '23 では、Expo ブースで「Firebase Extensions で構築する生成 AI チャットボット アプリ体験」を展示しました。実際の展示では、お越しくださった方々から「このアプリはどうやって作るの？」や「このサンプルを参考に作ってみたい」といったようなお言葉をいただきました(ありがとうございます！)。 Firebase Extensions は Firebase と Google Cloud の各サービスを組み合わせたパッケージを Firebase プロジェクト内にかんたんにデプロイすることができ

この記事は Google Cloud Japan Advent Calendar 2023 (入門編) の 3 日目の記事です。 今回は Google Cloud をゼロから学ぶならこれ! おすすめの学習リソースという素敵記事に倣って Google Kubernetes Engine (GKE) をこれから学びたい・詳しくなりたい人向けにおすすめの学習リソース (無償のもの) を紹介します。 初学者向けのリソースだけでなく、実際のクラスタ設計にも役立つリソースを紹介します！ プロダクトの概要を知る そもそも GKE って何？という方はプロダクトの概要を知ることから始めるのが良いかもしれません。 概要を知るのに良いコンテンツをいくつか紹介します。 ブログ記事で学習する 世の中には GKE の概要を紹介したブログ記事が多く存在します。 （初っ端から宣伝ですみませんが）一例として、私が以前書いた