Difyで複数のLLMを切り替えるチャットを実現する - Taste of Tech Topics
こんにちは、新人エンジニアの前田です。 最近、南海トラフ地震の臨時情報や台風などもあったりして、自衛のための事前準備は欠かせないなと思いました。 さて、今回はDifyを使って複数の大規模言語モデル（LLM）を切り替えるチャットチャットボットを作ってみたいと思います。 なぜ、この内容をやってみようかと思ったかというと、Difyは、複数のLLMを利用できるのですが、 それらは、事前に設定を行って利用するもので、ユーザーが実行時に切り替えて指定ができなかったのですよね。 とはいえ、これもノーコードで実現できるのが、Difyの強みです。 1. 概要 1.1.Difyとは 1.2. この記事で実現すること 2. アプリ作成 2.1. モデルの定義 2.2. モデルの選択 2.3. 変数の集約 3. 作成したアプリを動かしてみる 4. まとめ 1. 概要 1.1.Difyとは Difyは、大規模言語モ
RAGに関する主要な論文を時系列順にまとめていく(2024年度版)｜R
RAGに関する主要な論文まとめていきます。(過去の分含めて随時更新予定) 見つけたものからまとめているので、最新の2024年以降の論文多めです。 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks(22/05/2022) 一言紹介❓ LLMって、事前学習された知識に関しては答えてくれるけど、最新のニュースだったり、専門的な情報や組織固有の情報には対応できないよなぁ 💡 外部知識をLLMに検索させよう!→RAGの誕生 Abstract日本語訳大規模な事前学習済み言語モデルは、そのパラメータに事実知識を蓄積し、下流の自然言語処理（NLP）タスクに微調整されたときに最先端の成果を達成することが示されています。しかし、知識をアクセスして正確に操作する能力は依然として限られており、知識集約型タスクでは、タスク固有のアーキ
Genspark「Autopilot Agent」で複雑な分析やファクトチェックが驚くほど簡単に！｜AI-Bridge Lab こば
こんにちは！AI-Bridge Labのこばです👋 ユーザーが求めるタスクを自律的に作成し、実行までしてくれる「AIエージェント」サービスが続々と登場していますが、今回は無料のAI検索サービスでお馴染み、Gensparkからリリースされた新機能の「Autopilot Agent(オートパイロット エージェント)」をご紹介します。 これは非同期AIエージェントとして、複雑な調査やクロスチェックをアシスタントのように効率的にこなしてくれます。 嘘か本当かわからない情報の信憑性を、膨大なWeb上のデータからクロスチェックで判断できる「Genspark Autopilot Agent」 これを使えば、例えば「筋トレで部分痩せはできる？」という質問に対して全自動で67個の情報源を参照し、最終的な結論を出してくれます👇#Genspark #生成AI pic.twitter.com/Cl2QFel5
Graph RAGでRAGの精度向上を - Qiita
本記事は日本オラクルが運営する下記Meetupで発表予定の内容になります。発表までに今後、内容は予告なく変更される可能性があることをあらかじめご了承ください。 以前の記事：【ChatGPT】とベクトルデータベースによる企業内データの活用(いわゆるRAG構成)ではベクトルデータベースを利用したRAGの実装をご紹介しました。LLMが学習していないデータ(社内ドキュメントなど)をベクトルデータベースにロードし、LLMがそのデータを「参照」しながらユーザーのプロンプトに回答するシステムで、処理フローとして下図のようになります。 ①ユーザープロンプトの文章と類似の文章をベクトルデータベースに問い合わせる ②ベクトルデータベースの中からテキスト生成に必要なヒントとなる文章(RAGではコンテキスト(context)と呼ぶ)をベクトル類似検索処理で検索する ③ユーザープロンプトに加えて、検索したテキストを
各部署の生成AI活用能力を向上させる！「生成AIアンバサダー」の中間成果を公開｜TOYOTA Connected AI統括部
今回は、2024年7月25日に行われたイベント「Azure OpenAI Service Dev Day」の内容を紹介します！ 700名以上が参加した本イベントには、AI統括部リスキリングチームリーダーの西山 泰仙さんとAI技術室の山本 玄人さんが登壇しました。 本記事を読むことで、各部内での生成AI活用の促進を担っている「生成AIアンバサダー」の中間成果を知ることができます。 アウトライン以下のアウトラインで講演を行いました。 前回の記事では、リスキリングチームリーダーの西山 泰仙さんの講演内容である、Chapter01「生成AI導入の理想状態仮説と現状分析」とChapter02「生成AIネイティブになるための戦略と取り組み」を紹介しました。 前回の記事はこちらをご覧ください。 西山 泰仙さん本記事では、Chapter03「トヨタコネクティッドの生成AI効果分析」とChapter04「イ
15時間で学べるAI学習決定版。グーグルが提供する無料の機械学習集中講座が大幅刷新され、LLMもカバー | DevelopersIO
15時間で学べるAI学習決定版。グーグルが提供する無料の機械学習集中講座が大幅刷新され、LLMもカバー Googleが提供する無料の機械学習の集中講座はご存知でしょうか? 機械学習に関する幅広いテーマを座学・動画・実験・コーディングといった様々なアプローチで15時間で学べます。しかも無料です。 このコンテンツはもともとは2018年に公開されたものであり、多くのエンジニアに活用されました。 とはいえ、2017年のTransformerの論文、大規模言語モデルの発展、2022年のChatGPTリリースなど、AIは急速に発展し、より広い職種に身近なものになっています。 この流れを受けて、入門講座は2024年8月に大幅に刷新されました。 ※冒頭で登場するResearch DirectorのPeter NorvigはAIの世界的な教科書"Artificial Intelligence: A Mode
資料生成AI「Napkin」がマジすごすぎる。
以下の記事などで既にかなり話題になっていますが、ぼくも触ってみました(使い方などの詳細はこちらの記事を参照してください)。 結論としては、マジすごくてかなり衝撃的です。すべてのホワイトカラーワーカーにとって、かなりディスラプティブなツールになるのではないでしょうか。 自分はコンサルタントでして、これまでにたくさんの資料を作ってきてスキルを磨いてきたつもりだったので、AIポン出しでここまでのものが出てきてしまうと、正直、人生について考えさせられちゃいますね。 この記事では、Napkinを使ってどういう資料ができたのか共有したいと思います。 ポストモーテムの勉強会をしたいなと思っていたので、まずはChatGPTで資料の骨子を出力し、それをNapkinに入力してみました。それで得られたのが、以下の資料です。 スライド1: タイトルスライド タイトル: ポストモーテムの教科書 副題: SREにおけ
【最大90%の時間削減】生成AI最前線、 トヨタコネクティッド社のAI効率化事例と全社的生成AI導入戦略の全容｜ChatGPT研究所
【最大90%の時間削減】生成AI最前線、 トヨタコネクティッド社のAI効率化事例と全社的生成AI導入戦略の全容 総務省が2024年7月5日に発表した「情報通信白書」によると、日本におけるAIの個人利用率は9.1%、企業利用率は46.8%となっています。 その背景には「使い方がわからない」という声が多くあります。 そこでChatGPT研究所は、日本企業のAI活用促進を促進するために、先進事例のインタビューシリーズを開始しました。 第1回は、AI専門部署を設立し全社的なAI活用を推進するトヨタコネクティッドさんに、AIの活用事例について話を伺いました。 トヨタコネクティッド株式会社概要 トヨタコネクティッドは、トヨタグループにおける戦略的事業会社です。 1. 設立と概要: ・ 2000年10月6日設立 ・ 資本金：約6億5千万円 ・ 株主：トヨタ自動車、マイクロソフト、セールスフォース 2.
RAGを使った企業独自の情報に基づいた文書生成AI：募集要項の事例｜Algomatic
はじめに企業における生成AI活用の代表的な要望として、企業独自の情報に基づいた文書生成が注目を集めています。本記事では、過去の募集要項（JD）を参照しながら、ユーザーとインタラクティブに募集要項を作成できるチャットボットをご紹介いたします。このツールはRetrieval-Augumented Generation（RAG）技術を活用しChatGPTのような汎用AIでは難しかった、企業独自の情報を反映した文書生成を可能にします。 既存の募集要項作成業務における課題企業における資料作成は多くの時間と労力を要する重要な業務の一つです。とくに、募集要項の作成はその典型的な例として挙げられます。人材採用に力を入れている企業では、それに伴い募集要項を頻繁に作成する必要があります。募集要項は求める人材のスキルセット、経験、責任範囲を明確に定義する重要な文書です。しかし、その作成の過程には3つの課題が存在
複数LLMの統合による会議動画要約の精度向上 - enechain Tech Blog
はじめに 背景と課題 システム概要 ワークフローの詳細 動画文字起こし (Gemini, GPT-4o) 文字起こしの議題単位の分割 (Claude 3.5 Sonnet) 議題単位での要約作成 (Claude 3.5 Sonnet, GPT-4o) 出力 実装上の工夫と課題 結果と今後の展望 おわりに はじめに こんにちは。enechainで統計・機械学習モデルの構築やLLM（大規模言語モデル）の活用推進を担当している@udon_tempuraです。 近年、GoogleのGeminiなど生成AIの発展が目覚ましく、多くの企業がこれらの技術を業務に取り入れようとしています。 私たちenechainも例外ではなく、積極的にLLMの活用を進めています。 今回はその活用例の1つとして、複数のLLMを使い分けて構築した「会議動画の要約作成ワークフロー」についてご紹介します。 このワークフローでは会
企業で生成AIを導入するための施策と生成AI全社研修の全体設計を公開します｜TOYOTA Connected AI統括部
今回は、2024年7月25日に行われたイベント「Azure OpenAI Service Dev Day」の内容を紹介します！ 700名以上が参加した本イベントには、AI統括部リスキリングチームリーダーの西山 泰仙さんとAI技術室の山本 玄人さんが登壇しました。 本記事を読むことで、トヨタコネクティッドが現在実施している生成AI研修の設計や企業で生成AIを導入するために必要なことを知ることができます。 企業の生成AI推進担当者やこれから生成AIを導入したい方は、ぜひ参考にしてみてください！ アウトライン以下のアウトラインで講演を行いました。 ※講演の内容は複数回に分けて公開します。 本記事では、リスキリングチームリーダーの西山 泰仙さんの講演内容である、Chapter01「生成AI導入の理想状態仮説と現状分析」とChapter02「生成AIネイティブになるための戦略と取り組み」を紹介します
あらゆる分野のRAGの性能を評価する手法RAGEval
導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。普段はエンジニアとして、LLMを使用したチャットのサービスを提供しており、とりわけRAGシステムの改善は日々の課題になっています。 本記事では、ドメインに特化したRAGの性能を検証するためのフレームワーク、RAGEvalについて解説します。 サマリー RAGの手法は日夜研究され、新しい手法は次々に提案されています。RAGに限った話ではないですが、システムの性能を計測するには評価するための方法が重要です。そしてRAGの性能を計測するにはドキュメントと質問、そして正解ドキュメントと正答のセットが必要になります。 RAGEvalは、これらの計測に必要なデータをLLMとそのドメインに使用するサンプルのドキュメントを用いて自動的に生成する事が可能となっています。 問題意識 RAGのテストデータを用意するのは大変 RAGの評価には必ず評価するため
LLMを使ったワークフローをノーコードで作れるDifyを使ってみました - toyoshiの日記
Difyを使ってみました。クラウドベースのLLM特化のワークフロー作成ツールです。ZapierやMakeとの違いはLLMに特化してるかどうか。 私の期待としてはGPTsではできない再起的なLLMの呼び出し、バッチ処理、他のソースの取り込み、コードが書けない人でもRAGが扱えるようにしたいということでした。 結論から書くと期待してたことは大体できそうでした。 入力としてCSVの処理が始めからついている 作ったワークフローについて他のワークフローから呼び出したりWeb APIとしてすぐに使える Notionを知識のソースとして使える（Notionへのデータ挿入もDifyから自動化できるため自動で成長するチャットボットも作れそう） GPTsではできないことがコードなしでできる なおDifyはオープンソースとなっており自前でホスティングすることも可能です。今回はまずはクラウドサービスを利用してみま
第1回 生成AIの得意・不得意 2024・夏 | gihyo.jp
皆さんこんにちは。スリーシェイク代表の吉田です。 今回より生成AIを、金融業界や製造業、医療業界など各事業ドメイン固有の課題解決にどう使われているのか、具体的なユースケースを提示しながら、それを実現するアーキテクチャについて解説していきます。この連載を通して、これまで生成AIを実際のシステムに組み込むイメージが湧かない方への第一歩として手助けになれば幸いです。 第1回は、生成AI自体の一般的な得意不得意を踏まえながらユースケースを解説します。 生成AIが得意とする処理とは？ 生成AIが得意とするのは、「専門性のない一般的な知識をベースにした」テキスト生成、コード生成、画像認識や画像生成が挙げられます。RAG（Retrieval-Augmented Generation）やプロンプトエンジニアリングにより固有ドメインに特化させることは可能ですが、教師あり学習データを前提としたMLやDeep
エクサウィザーズ、生成AIの回答品質を自社の運用で継続的に改善する「RAGOps」 | IT Leaders
IT Leaders トップ ＞ テクノロジー一覧 ＞ AI ＞ 新製品・サービス ＞ エクサウィザーズ、生成AIの回答品質を自社の運用で継続的に改善する「RAGOps」 AI AI記事一覧へ [新製品・サービス] エクサウィザーズ、生成AIの回答品質を自社の運用で継続的に改善する「RAGOps」 2024年5月13日(月)日川 佳三（IT Leaders編集部） リスト エクサウィザーズは2024年5月13日、AIシステム開発ツール「exaBase Studio」のテンプレートとして、AIの回答品質を自社の運用で継続的に改善する「RAGOps」を同年5月から提供すると発表した。品質が高い回答をキャッシュする一方で、品質が低い回答についてはオペレーターが回答を行う仕組みを提供する。入力した回答はデータベースに蓄積され、以降の回答に利用する。回答の品質が求められる用途で活用できるとしている。
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
100 以上の生成 AI 事例に見るビジネスインパクト創出の方程式
The next act of GenAI: How to get AI ‘agents’ working like humans
sakana.ai の AI エージェント: AI Scientist のコード解析メモ
Boost Your Outbound Sales with an AI BDR from Artisan
https://www5.cao.go.jp/keizai3/2024/sekai124siryou.pdf