はてなブックマーク

こんにちは、クラウドエンジニアの青山です。 最近、何か調べたいときには、通常の検索エンジンではなく、生成AIに聞くことが習慣になってきています。 調べたいことが分かりやすく得られるので、最近の生成AIの発展には、驚くばかりです。 とはいえ、単純な検索ではなく、関係するような情報をいろいろ調べたりするのは、生成AIを使っても時間がかかりますよね。 そこで有用なのが、ユーザーの質問に対して、より広く深く考察しながら、回答をしてくれる「DeepResearch」だと思います。 いろいろな生成AIサービスで、この機能が登場してきていますが、今回この「DeepResearch」の機能を、Difyを使って実現したいと思います。 1. 概要 DeepResearchとは Difyとは 2. Dify ワークフローを使ったDeepResearchの実現 ワークフローの説明 ワークフロー中のイテレーションブ

はじめに こんにちは一史です。 先日神代植物公園に行きました、まだ藤の花が残っておりとても綺麗で癒されました。 昨今、開発支援のAIエージェントとしてClineが話題になっています。 github.com ClineはVisual Studio Code(VSCode)の拡張機能であり、単なるコード生成だけでなく、コマンド実行や動作確認・デバッグまでを一貫して行ってくれる点が特徴です。 Clineは任意の生成AIモデルを指定し、コードを生成させることができます。 このためセキュアで実際の開発現場でも活用されるAmazon Bedrockと組み合わせることでビジネスシーンでの活用も可能となります。 今回、LLMとしてBedrockを利用して、CRUD処理を行うアプリを開発できるか、TODOアプリ作成を題材に試していきます。 はじめに 概要 Clineとは？ Amazon Bedrockを使う

こんにちは。データサイエンスチームYAMALEXの@Ssk1029Takashiです。 (YAMALEXについて詳細はこちらをぜひご覧下さい。) www.acroquest.co.jp つい先日Phi-4-reasoningというモデルがMicrosoftから発表されました。 軽量な事前学習済み言語モデル（SLM）も性能が上がってきて利用されることが増えてきています。 SLM は量子化などを施すことで、ハイエンド GPU を使わずとも動かせる点が利点です。 そのため、外に出せないデータを扱ったり、通信できない環境で利用されることが多いとされています。 SLMを扱う場合に必要になるのはFine Tuningになります。 OpenAIのようなLLMとは違い、モデル自体はそこまで強力ではないため、実行させたいタスクを狭めて、そのタスク用にFine Tuningしたモデルを利用することが主流です。

こんにちは。大塚です。 AIの進化スピードに驚かされる毎日です。 生成AIだけでなく、データ活用の仕組みもどんどん進化していますね。 今回は、昨年12月にサポートされたBedrock Knowledge Basesのカスタムデータソースとドキュメントの直接取り込みAPIを試してみたいと思います！ aws.amazon.com 1. はじめに 2. カスタムデータソース＋直接取り込みAPIの概要とメリット カスタムコネクタとは？ ドキュメントの直接取り込みとは？ 3. 実際に試してみる 事前準備（ナレッジベースの作成） AWSマネジメントコンソールからドキュメントを投入 APIからドキュメントを投入 データソースからドキュメント一覧を取得 4. 制限事項の確認 サポートされていない拡張子のドキュメントを投入した場合 容量の大きいドキュメントの投入 5. まとめ 1. はじめに RAG（Ret

はじめに データ分析エンジニアの木介です。 AWSの公式ドキュメントで欲しい情報を探そうとしても、なかなか目的のページが見つからなかったりすることってありませんか？ AWSから「AWS Documentation MCP Server」が公開されたため、本記事では、それを利用して、最新のAWSドキュメントに基づき、質問に回答してくれるFAQアシスタントの作成方法について紹介したいと思います。 MCP Serverの呼び出しには、Claude Desktop および dolphin-mcp を利用します。 github.com はじめに 概要 1. MCPとは MCPのしくみ 2. AWS Documentation MCP Serverとは Claude Desktop経由でAWS ドキュメントのFAQアシスタントを作成する dolphin-mcpでAWS ドキュメントのFAQアシスタント

こんにちは。データサイエンスチームYAMALEXの@Ssk1029Takashiです。 (YAMALEXについて詳細はこちらをぜひご覧下さい。) www.acroquest.co.jp MCP（Model Context Protocol）が登場して少し時間が経ちましたが、その間にMCPに対応するサービスが増え、LLM 用ツールとしてその利用も拡大しています。 ツール提供側・クライアント側のどちらのサービスも増えており、今後さらに対応が広がりそうです。 そのような中で、MicrosoftがAzure MCP ServerというAzureリソースをMCP経由で操作できるMCP Serverを公開しました。 github.com 現在は操作できるリソースは限られていますが、CosmosDBやBlob Storageなどのデータ参照などが可能です。 この記事では簡単にMCPについて説明した後、G

はじめに こんにちは、一史です。 暖かくなりベランダに出している金木犀が新芽を出してきました、春ですね。 さて、ストレージサービス間でファイル転送を実現するサービス、AWS Transfer Familyの新機能として、web appsというものがあります。 aws.amazon.com この機能を使うことで、S3のWebUIをノーコードで作成することができるようになりました。 今回はこの新機能を用いて実際にWebUIを作成し、ユーザー単位のアクセス制御が行えるかを試していきます。 はじめに AWS Transfer Family web apps とは AWS Transfer Family web appsを用いてS3 WebUI作成する WebUIの完成像 WebUIの作成 ユーザーの作成・割り当て ユーザーのファイルへのアクセス権限の設定 作成したS3 WebUIの操作 ユーザーご

こんにちは。 Acroquestのデータサイエンスチーム「YAMALEX」に所属する@shin0higuchiです😊 YAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。 はじめに 近年、RAG（Retrieval-Augmented Generation）の台頭などを背景に、ベクトル検索の重要性が増しています。 ベクトル検索は、テキストや画像などの高次元データをベクトル空間に埋め込み、類似度に基づいて検索を行う技術です。 これにより、従来のキーワード検索では捉えきれなかった、意味的な類似性に基づいた検索が可能になります。 (RAGでElasticsearchのベクトル検索を利用するやり方については、こちらの記事で紹介していますので是非ご覧ください) acro-engineer.hatenablog.com 一方で、ベクトル検索を扱うため

はじめに こんにちはデータ分析エンジニアの木介です。 今回は、Hugging Faceより公開されたオープンソースのAIエージェントOpen Deep Researchを実際に動かしていきたいと思います。 huggingface.co はじめに 1. 概要 Open Deep Researchの仕組み 2. Open Deep Researchを動かす 準備 構築方法 検索実行 OpenAI Deep Researchとの比較 まとめ 1. 概要 Deep Researchとは、ウェブ検索をしながら自律的に情報を収集し、詳細なレポートを出力してくれるサービスのことを指します。 現在、「Deep Research」という名称が付けられている代表的なサービスとして、以下のものがあります。 サービス名 OpenAI Deep Research Google Gemini Deep Researc

皆さんこんにちは Acroquestのデータサイエンスチーム「AcroYAMALEX」のチームリーダ、@tereka114です。 AcroYAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。 （詳細はこちらをご覧ください。） 私は長崎で開催されているNLP2025に3/12（木）〜参加していました。 私自身はNLP2025、長崎ともに初でワクワクでした。 会場前のNLP2025看板 NLP2025 「言語処理学会」は、言語処理に関する研究を行う日本の学術団体で、自然言語処理、計算言語学、言語情報処理などの分野を扱います。 今回の『言語処理学会 年次大会』は、毎年3月頃に開催され、当該分野における最も重要な学術イベントの一つとして位置づけられています。 端的に言えば、日本語の自然言語処理で大きな学会です。 本年は長崎開催で、2248名の参加が

1. はじめに こんにちは、りょうたです。 先週、ついに待望のDify v1.0.0が正式リリースされて、生成AIを利用したサービスや基盤開発に関わる身として大変ワクワクしております！ github.com 本バージョン注目の機能として、エージェントノード と プラグインシステム が導入されています。 エージェントノードとは、予め定義されている「エージェント戦略」を用いて、質問に応じたツールの呼び出しや複数ステップにわたる推論を自動的に実行する、新しいノードです。 今回は、Dify公式が出しているエージェンティック戦略を用いて、チャットフローを作成してみます。 1. はじめに 2. エージェントノードとは 2.1. 基本的な機能 2.2. 従来のワークフローで実現しようとした際との違い 2.3. Difyアプリの「エージェント」との違い 3. エージェントノードを使ってみた 3.1. フロ

こんにちは、機械学習チーム YAMALEX の駿です。 YAMALEX は Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。 （詳細はリンク先をご覧ください。） 今回は AWS が提供するオープンソースツール GraphRAG Toolkit を使って、 GraphRAG に入門しようと思います。 GraphRAG Toolkit を使うと、 Amazon Neptune と Amazon OpenSearch Serverless を使用した GraphRAG システムをローコードで実装できます。 なお、2024年12月から Bedrock Knowledge Base で使用できるようになった GraphRAG とは別物なので、混同しないようご注意ください。 1. はじめに 1.1. GraphRAG とは 1.2. Gr

こんにちは。大塚です。 今回は、Amazon Bedrock Knowledge Basesを使い、ベクトルDBとしてAmazon Aurora PostgreSQLの利用を試したいと思います。 昨年の12月にはBedrock Knowledge BasesのベクトルDBとしてAurora PostgreSQLをクイック作成できるようになり、セットアップ手順が大幅に簡素化されました。 このクイック作成機能も活用してセットアップをしてみます。 aws.amazon.com 1. ベクトルストアとして Aurora PostgreSQL をセットアップする 事前準備 Knowledge Basesの作成 Knowledge Basesのテスト 2. OpenSearch Severless と比較する 機能 コスト 3. 検索速度を確認する 4. まとめ 最後に 1. ベクトルストアとして A

皆さんこんにちは Acroquestのデータサイエンスチーム「YAMALEX」のチームリーダ、@tereka114です。 YAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。 （詳細はこちらをご覧ください。） LLMやVLMをはじめとした基盤モデルが近年、多く公開されています。 画像や自然言語処理といったものとは異なりますが、時系列モデリングでも基盤モデルが利用されようとしています。 本記事では、時系列基盤モデルの一つである「Chronos-Bolt」を紹介します。 Chronos-Boltについて Chronosは端的に言えば、予め様々な時系列を学習させることで、適用するデータの学習をしなくとも、時系列予測を可能とする時系列基盤モデルです。 そのChronosの後継モデルがChronos-Boltになり、Chronosと比較して、精度、性

はじめに こんにちは一史です。 冬にもかかわらず、自宅のモンステラが新芽を出しており、生命力に驚いています。 さて最近、Amazon Bedrock Flowsの新機能としてマルチターン形式の会話機能がサポートされました。 aws.amazon.com 従来は、ユーザーが1回のプロンプトで処理に必要な情報を全て入力する必要がありましたが、マルチターン形式の会話により不足している情報を適宜AIが聞き返すことが簡単に実現できます。 今回はこのマルチターン形式の会話機能により、対話的なフローを行ってみます。 はじめに 概要 Amazon Bedrock Flowsとは？ マルチターンの会話機能とは？ Amazon Bedrock Flowsでマルチターンの会話をするフローを作成 フローの概要 マルチターンの会話をするエージェントの作成 PC推薦Lambdaの作成 マルチターンの対話を行ってみる

はじめに 最近OSSのLLMサービスが気になっているデータ分析エンジニアの木介です。 今回は2024年12月に発表された、Amazon Bedrockの「Multi Agent Collaboration」について実際にサンプルコードを動かしながら解説していきます。 aws.amazon.com Multi Agent Collaborationとは 1. 概要 Multi Agent Collaborationとは、Amazon Bedrockが提供する新機能で、複数のAI Agentが協力してタスクをこなすことができる機能です。 AWS公式ブログにあったソーシャルメディアキャンペーンの例では以下のようなものが紹介されていました。 ユーザーから受けたリクエストを、Supervisor Agentが受け取る。 コンテンツ作成を専門とするAgentに投稿の作成を依頼する。 エンゲージメント予

こんにちは、機械学習チーム YAMALEX の駿です。 YAMALEX は Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。 （詳細はリンク先をご覧ください。） 突然ですが、動画を検索したくなることってありますよね。 それも、動画のタイトルにはなっていないんだけど、こんなことを話してたんだよな、というざっくりとした記憶しかなく、どうしても見つけることができないこと、あると思います。 あるいは Google 検索などができれば良いのですが、自社内にある動画や、仕事で使う動画となると、そう簡単にはいきません。 そんな困りごとを解決するためのツールを Amazon Nova モデルと Amazon Bedrock Knowledge Base で作成してみました。 Bedrock Knowledge Base を使うことで、ドキュメ

こんにちは。データサイエンスチームYAMALEXの@Ssk1029Takashiです。 最近はLLMのFine Tuningに夢中の日々です。 昨年のMicrosoft Ignite 2024にて、Azure Content Understandingというサービスが発表されました。 このサービスはOfficeドキュメントや画像、音声、動画などのファイルをもとに、RAGシステムなどで使いやすいように生成AIなどを活用してユーザーが定義した構造にデータを取り込むサービスです。 今までだと、音声はSpeech Service、画像はAI Visionなどのサービスをそれぞれ使ってデータ処理する必要があったのを、一つのサービスで構造を定義するだけで処理できるようになりました。 今回はそんなAzure Content Understandingを使って動画から検索エンジンなどに取り込みやすいJSO

こんにちは、機械学習チーム YAMALEX の駿です。 YAMALEX は Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。 （詳細はリンク先をご覧ください。） RAG（検索拡張生成：Retrieval-Augmented Generation）で正しい情報をユーザーに提供する際に特に重要になるのが検索精度です。 そして、検索精度を上げる方法のひとつが「リランク」です。 リランクを行い、検索で取得した結果を関連度で並び替えなおすことで、ユーザーの求めている情報を回答しやすくなります。 そんなリランクを行うモデルがAmazon Bedrockに追加され、 Bedrock Knowledge Baseと組み合わせて使用できるようになりました。 従来は自前でモデルをホストする、など手間がかかりましたが、Knowledge Baseへ

こんにちは、バックエンドエンジニアの前田です。 前回はbolt.newを用いて、画面イメージからどこまで画面を生成できるかを試してみました。 acro-engineer.hatenablog.com 画像を読み込み、ほぼイメージ通りに生成してくれることが分かったので、今回はシーケンス図を画像にしてbolt.newに渡し、どこまで生成してくれるかを試してみます。 1. 今回作成するアプリ 2. アプリ作成 2.1. シーケンス図を指定してアプリを生成させる 2.2. 生成結果の詳細 3. まとめ 1. 今回作成するアプリ 今回作成するアプリは、砂時計アプリです。 以下の画像のようなシーケンス図をdraw.ioやMermaid Graphical Editorなどを用いて作成し、作成した画像をbolt.newに渡して、砂時計アプリを生成してもらいます。 砂時計アプリの仕様としては、時間を1、3

こんにちは、バックエンドエンジニアの前田です。 正月お餅を食べすぎたので、体重が跳ね上がっていないか心配です。 さて今回は、bolt.new に対して、画面イメージを元に、どこまで画面生成を簡単に行えるか、試してみました。 画面のレイアウトがあっても、イメージしづらい部分はありますが、実際に動く画面を素早く作れるならイメージもしやすいと思います。 bolt.newに関しては、以下を参考にしてください。 acro-engineer.hatenablog.com 1. 今回生成する画面について 2. 画面イメージを元に、画面を生成させる 2.1. 図書検索画面と新規追加ポップアップの生成 2.2. 検索後画面の生成 2.3. 利用者一覧画面の生成 3. まとめ 1. 今回生成する画面について 図書館での本の一覧や登録削除、貸し借りを想定するWebアプリ「図書管理システム」のフロントエンド部分を

皆さんこんにちは Acroquestのデータサイエンスチーム「YAMALEX」のチームリーダ、@tereka114です。 YAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。 今年も、アドベントカレンダーとして、9つの記事を本ブログで投稿しました。 本記事では、今年の記事の傾向や、私個人が特に面白いと感じた記事を紹介します。 本ブログの今年のアドベントカレンダー記事投稿傾向 特に読んで欲しい記事3選 ElasticsearchでLIKE検索のような部分一致検索を高速に実現する方法 PDFドキュメントを画像のまま検索できるColQwen2でマルチモーダル検索を試す vLLMを利用したLLM推論高速化テクニック 最後に 本ブログの今年のアドベントカレンダー記事投稿傾向 今年は生成AI関係（主にBedrock）とElasticsearchの記事を

こんにちは。データサイエンスチームYAMALEXの@Ssk1029Takashiです。 完全に年末ですが、最後まで油断せずに年を越したいですね。 このブログは、LLM・LLM活用 Advent Calendar 2024の25日目になります。 qiita.com 今年は1年間RAGを扱う多くの事例に触れさせていただきましたが、どこでも難しいのが図や画像が使われているドキュメントですね。 ただのPDFであれば、pdfminerなどのライブラリを使用して文字を読み取り検索すればよいですが、画像が使われるとそう簡単にもいきません。 画像部分からはOCRを使って文字を取り出すなど、工夫が必要になります。 今回はドキュメントを画像にした状態で検索可能にするColQwen2というモデルを使って日本語ドキュメントの検索を試してみます。 ColQwen2とは 実験 環境 PDFドキュメントのEmbeddi

こんにちは、技術イベントに参加してきてアウトプット欲が高まっているハヤトです。 この記事は Dify Advent Calendar 2024 のシリーズ2、24日目の投稿です。 最近も精力的にアップデートが重ねられているDifyですが、 その中心的な機能であるワークフローとノードについて改めて基本的な内容を確認していきたいと思います。 実際に動作するワークフローを構築しながら説明するので、 Dify初心者の方も是非ご一読ください。 ※本記事はDifyバージョン0.13.1時点のものです。 Difyについて Difyの「ワークフロー」とは Difyワークフローの種類と使い分け ノードについて ナレッジ検索 ナレッジの作成 ナレッジ検索を使用するワークフローの構成 質問分類器 質問分類器の設定 パラメーター抽出器 パラメーター抽出器の設定 Arxiv論文検索ツールの設定 まとめ Difyにつ

皆さんこんにちは Acroquestのデータサイエンスチーム「YAMALEX」のチームリーダ、@tereka114です。 YAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。 大規模言語モデル（通称：LLM）は近年、非常に注目される技術となりました。 ただ、7Bや13Bといった巨大モデルのパラメータは推論時間も長時間で計算時間の面からも運用が非常に難しいです。 しかし、vLLMを使えば、高速化できます。本記事では、推論をどこまで高速化できるのかを検討したいと思います。 ※本記事はLLM・LLM活用のAdvent Calendar 24日目の記事です。 qiita.com vLLMとは？ vLLMによる高速化実践 vLLMを利用しない場合 vLLMを利用する vLLMに加えてAWQを利用して量子化する Auto Prefix Caching

こんにちは、機械学習チーム YAMALEX の駿です。 YAMALEX は Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。 （詳細はリンク先をご覧ください。） この記事は Amazon Bedrock Advent Calendar 2024 23日目の投稿です。 Amazon Bedrock Knowledge BaseのデータベースとしてRedshiftを指定して、構造化データを検索し、その結果を元に回答を生成することができるようになりました。 現在のところ、データベースとしてはRedshiftのみに対応しています。 Redshiftであれば、Serverless版、クラスタ版いずれも選択が可能です。 この記事ではRedshiftにサンプルとして用意されているTICKITデータセットを用いて、複雑なテーブルに対してどのよ

こんにちは。 Acroquestのデータサイエンスチーム「YAMALEX」に所属する@shin0higuchiです😊 YAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。 はじめに 近年、生成AIの発展により、RAG（Retrieval-Augmented Generation）が注目を集めています。RAGは既存の知識ベースから関連情報を検索し、それを基に生成AIが回答を生成する手法です。本記事では、多くの企業ですでに利用されているElasticsearchを使って、シンプルなRAGシステムを構築する方法をご紹介します。 RAGの基本概念 RAGはおおまかに以下の3つのステップで構成されています： 1. 知識ベースの構築（Indexing） 2. 関連情報の検索（Retrieval） 3. LLMによる回答の生成（Generation）