【Qiita初】miibo Dify Cozeの次はGumloop🌀?? - Qiita
Gumloop🌀とは Gumloop とはワークフローにAI機能を組み込むことができ、業務プロセスの自動化や効率化を図ることができるサービスです。 ZapierやMake、Difyなどが類似サービスになるかと思います。 最近はmiibo、Dify、Cozeなどが話題の中心になることが多いですが、今回はまだ注目をされていない Gumloop を使って株式市場分析ツールを作りたいと考えました。 Gumloop の何がいいかというとテンプレートが豊富なところかと考えます。 サイトのUIは日本語に対応していませんが、テンプレートを参考にすることで直感的にワークフローを作成することができます。 ★ワークフローの作成手順 完成イメージ 今回はハンズオンとして、現在の株式市場を分析してくれるツールを作成します。 今回のプロダクトを作製した経緯 最近の株式市場 8月5日の日本株式市場は、1987年のブラ
RAGを社内用語に強くするチャンク分割の手法「MoGG」
株式会社ナレッジセンスは、生成AIやRAGを使ったプロダクトを、エンタープライズ向けに開発提供しているスタートアップです。本記事では、RAGの性能を高めるための「MoGG」という手法について、ざっくり理解します。 この記事は何 この記事は、社内用語が多く含まれるドキュメントでもRAGの性能を高くするための手法「MoGG」の論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は以下の記事もご参考下さい。 本題 ざっくりサマリー MoGG（Mix-of-Granularity-Graph）は、RAGの精度を上げるための、新しいチャンク分割の手法です。MoGGでは、チャンクとグラフ構造を上手く組み合わせることで、専門用語・社内用語が多いドキュメントでも回答精度を向上させることができます。上海人工知能研究所と北京航空
Llama 3.2 の使い方｜npaka
以下の記事が面白かったので、簡単にまとめました。 ・Llama can now see and run on your device - welcome Llama 3.2 1. Llama 3.2 Vision 11B・90B1-1. Llama 3.2 Vision 11B・90B「Llama 3.2 Vision 11B・90B」は、Metaがリリースした最も強力なオープンマルチモーダルモデルです。画像+テキストのプロンプトでは英語のみ、テキストのみのプロンプトでは英語、ドイツ語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語をサポートしています。 コンテキスト長は128kトークンで、画像を含む可能性のある複数ターンの会話が可能です。ただし、モデルは単一の画像に注目する場合に最適に機能するため、transformers実装では入力で提供された最後の画像のみに注
各部署の生成AI活用能力を向上させる！「生成AIアンバサダー」の中間成果を公開｜TOYOTA Connected AI統括部
今回は、2024年7月25日に行われたイベント「Azure OpenAI Service Dev Day」の内容を紹介します！ 700名以上が参加した本イベントには、AI統括部リスキリングチームリーダーの西山 泰仙さんとAI技術室の山本 玄人さんが登壇しました。 本記事を読むことで、各部内での生成AI活用の促進を担っている「生成AIアンバサダー」の中間成果を知ることができます。 アウトライン以下のアウトラインで講演を行いました。 前回の記事では、リスキリングチームリーダーの西山 泰仙さんの講演内容である、Chapter01「生成AI導入の理想状態仮説と現状分析」とChapter02「生成AIネイティブになるための戦略と取り組み」を紹介しました。 前回の記事はこちらをご覧ください。 西山 泰仙さん本記事では、Chapter03「トヨタコネクティッドの生成AI効果分析」とChapter04「イ
LLM アプリケーションが簡単に作れるという話題の Dify 試してみた
こんにちは！アルダグラムでエンジニアをしている渡邊です！ 最近 Dify の話題を目にする機会が増えてきたので、今さらではありますが触ってみました。 この記事では Dify の使い方について共有いたします！ Dify とは？ Dify とはオープンソースで公開されているプロジェクトで、LLM（大規模言語モデル）アプリケーションを開発するためのプラットフォームです。 Dify を使うことで開発者でない人でも生成 AI アプリケーションを構築することができます。 GitHub https://github.com/langgenius/dify ドキュメント https://docs.dify.ai また Dify は以下の2通りの方法で使えます。 クラウドサービスで使う https://dify.ai/ からアクセス可能 独自のサーバーにホスティングして使う Dify で何ができる？ Dif
プロダクションでOllamaを使う場合のインストールメモ - Qiita
はじめに Windows WSL2 dockerでOllamaを起動し検証をしたが最初の読み込みの時間が遅く、使い勝手が悪かったので、docker抜きで検証することにした。結論、ロードのスピードが早くなり、レスポンスも向上した。 プロダクションでOllamaを使う場合は、Dockerは使わないほうがよいかなといった印象。そもそも、Docker使う場合、色々とケアする項目（Dockerの設定など）増えるので、プロダクションでのOllama利用は、サーバーに直接Ollamaをインストールして扱うほうが無難かも。 以前の作業メモはこちら(ollama (llama3) + docker + wsl2 + ubuntu24メモ)。 開発環境 以下の開発環境に、WSLでubuntu22.04をインストール。ubuntu22.04を選んだ理由は、cuda toolkitが、現時点(202406)で、U
Dify×Weaviateを使ったRAG - Qiita
記事の概要 Difyの登場により、LLMを使ったワークフローがローコードで構築できるようになったので、「Weaviate」というベクトルDBと「intfloat/multilingual-e5-large」というエンベディングモデルを使ったベクトル検索と、Groqが提供しているllama 3のAPIを使って、RAG（Retrieval-Augmented Generation）のワークフローを構築してみる。 （ワークフロー構築時、GroqはAPIが無料なので、これを利用する。） このワークフローでは、以下のような入力を実行すると、ベクトルDBの情報（今回は個別に用意したQAリスト）を参考に、テキストを出力することができる。 ■入力 ■出力 動画でも解説しています。 環境構築 以下のようなフローを構築する。 Dify上だと以下のようなフローとなる。 Docker・Dify・Weaviateの
LLMによるLLMの評価「LLM-as-a-Judge」入門〜基礎から運用まで徹底解説
前回の記事でLLMアプリケーションの評価について基礎から運用まで丁寧に解説いたしました。 この記事では、評価方法の一部であるLLM-as-a-Judgeについて詳しく解説したいと思います。 LLMアプリケーションの評価といえば、LLM-as-a-Judgeだというように結びつける方もいらっしゃいますが、必ずしもそうではありません。 というのも、LLMアプリケーションの評価には、LLM以外で評価するLLM-as-a-Judge以外にもいろんな方法や観点があるからです。 評価方法や指標について多くの論点が、LLMアプリケーションに限らず、機械学習アプリケーション全般に共通しています。 この10年ぐらいで、機械学習アプリケーションの評価についてはかなりの議論がなされてきており、ある程度成熟してきました。 一方、LLMでLLMの出力を評価するLLM-as-a-Judgeについては、GPT-3.5や
GPT-4を超える日本語性能のLLM、PFN子会社がフルスクラッチで開発 無料トライアルを開始
β版では、PLaMo-100Bをベースに指示学習やモデルマージを行い、文章生成能力を高めた。無料トライアルは個人・法人を問わずに提供し、商用利用も可能。同社は今後、トライアルの検証結果から改善や追加学習などを実施し、商用版の「PLaMo 1.0 Prime」を今秋に発売する。 関連記事 PFNが生成AI新会社「Preferred Elements」設立へ 130億パラメータの和製LLMもオープンソースで公開 AIベンチャーのPreferred Networks（PFN）は、生成AI事業に関する新子会社「Preferred Elements」を11月1日に設立すると発表した。併せて、研究・商用利用が可能な、130億パラメータの事前学習済み大規模言語モデル（LLM）「PLaMo-13B」も公開した。 「いつものやつ持ってきて」──PFNの荷物運びロボット、あいまいな指示にも対応可能に LLMの
【完全無料】AIボット開発ツール『Coze』の使い方！ノーコードで簡単にAIボットを開発可能
ボットのプロンプトの自動生成ができる：ユーザーは、ボットに求める機能や性格などの概要を入力するだけで、最適なプロンプトをCozeが生成。これにより、プロンプト作成の手間が大幅に削減され、ボット開発の効率が格段に向上します。 ナレッジやワークフローを柔軟に設定できる：ボットに必要な知識やタスクの流れを、インタラクティブなインターフェースを通じて直感的に定義。これにより、ボットは状況に応じた適切な応答や行動が可能となり、より自然でスムーズなコミュニケーションを実現します。 画像生成やその他多彩なプラグインが用意されている：テキストだけでなく視覚的なインタラクションも可能にすることで、ボットとのエンゲージメントを高められます。また、他にも多様なプラグインを組み合わせることで、ボットの機能を自在に拡張できるのです。 このように、Cozeの魅力はその機能の豊富さにあります。上記3つの強みを兼ね備えた
DifyでRAGを使ったチャットボットの作成 - Qiita
背景 Dify を使えばローコードで LLM アプリを簡単に作れるようなので、ちょっと遊んでみました。 やること 他意はないですが 株式会社ブレインパッドの IR ニュース にある 【定性情報のみ】2024年6月期 第2四半期会社紹介および中期経営計画（2024年6月期～2026年6月期） を学習させて、ブレインパッドについて教えてくれるChatbotを簡易的に作成します。 手順 準備 GoogleかGitHubでログインしてください。 今回は無料お試し版で進めます。 ログインしたら「スタジオ」画面から、「最初から作成」を押しましょう。 今回は「チャットボット」 > 「Chatflow」 を作成します。上級ユーザー向けと書いてありますが気にしない気にしない。 名前は、適当に、ね。 デフォルトはこんな感じです。 入力クエリに対して GPT3.5 Turbo が回答してくれる構成になっています
Dify で RAG を試す｜npaka
1. RAG「RAG」(Retrieval Augmented Generation) は、最新の外部知識の習得とハルシネーションの軽減という、LLMの2つの主要課題に対処するためのフレームワークです。開発者はこの技術を利用して、AI搭載のカスタマーボット、企業知識ベース、AI検索エンジンなどをコスト効率よく構築できます。これらのシステムは、自然言語入力を通じて、さまざまな形態の組織化された知識と相互作用します。 下図では、ユーザーが「アメリカの大統領は誰ですか？」と尋ねると、システムは回答のためにLLMに質問を直接渡しません。代わりに、ユーザーの質問について、知識ベース (Wikipediaなど) でベクトル検索を実施します。意味的な類似性マッチングを通じて関連するコンテンツを見つけ (たとえば、「バイデンは現在の第46代アメリカ合衆国大統領です...」)、LLMに発見した知識とともにユ
#86 LLM/生成AIと既存プロダクトとの機能や開発の違いについて【numashi × toshi × hash × issei】
バクラク事業部とAL事業部と2つの事業部を跨いだ珍しい回です。今回はLLM/生成AIのプロダクト開発について、制御が難しい点など機能や違いについて話しました。
【随時更新】主要な大規模言語モデル比較表
これはなに？ 自著 「つくりながら学ぶ！生成AIアプリ＆エージェント開発入門」 に掲載するために作ったOpenAI・Anthropic・GoogleのLLMの一覧表です。 各社が新しいモデルを出すたびに本の内容が陳腐化するため、この記事に最新の情報を更新していきます。 各社のモデルの主要諸元・費用に加えて、自分の印象を書いてあります。 性能の目安としてChatbot Arenaのスコアを参考までに添付しています これはあくまで参考用かつ英語での評価なので、スコアが一番高いものがいい、もしくは低いからダメというわけではありません。 少なくともこの記事に掲載されているモデルは、スコアが低いものでも単純な翻訳などでは十分な性能を持っています。そして何より高性能モデルとは比較にならないほど高速です。 用途や使用言語によって試してみて最適なものを選ぶのが良いでしょう [PR] 宣伝 本の紹介は↓に書
公開しているモデル・コーパス・ツール
LLM-jp で開発したモデルやツールを公開しています。コーパスを含む各種データは今後順次公開していく予定です。 公開プラットフォーム モデル: https://huggingface.co/llm-jp ツール: https://github.com/llm-jp 事前訓練済みモデル 13B v1.0 LLM-jp-13B-v1.0 1.3B v1.0 LLM-jp-1.3B-v1.0 チューニング済みモデル 13B v1.1 LLM-jp-13b-dpo-lora-hh_rlhf_ja-v1.1 LLM-jp-13b-instruct-full-dolly_en-dolly_ja-ichikara_003_001-oasst_en-oasst_ja-v1.1 LLM-jp-13b-instruct-lora-dolly_en-dolly_ja-ichikara_003_001-oass
まるで“LLMがツールを使う”かのように動作する デモから見るLangChainのモジュール「Agents」の使い方
LLMに狙いどおりの動きをさせるために内部で使われているプロンプトエンジニアリングから、LangChainに入門する「プロンプトエンジニアリングから始めるLangChain入門」。ここで大嶋勇樹氏が登壇。最後に、LangChainのモジュールである「Agents」について解説します。前回はこちらから。 LangChainのモジュール「Agents」 大嶋勇樹氏：最後に、一番おもしろいモジュールであるAgentsを見ていこうと思います。質問をまあまあもらっていますが、最後までいってから回答できればと思います。最後に、一番おもしろいのがこのAgentsです。 まずAgentsのモチベーションですが、Indexesを使ってVector Storeを検索する以外にも、LLMが必要に応じていろいろなことをしてくれたら夢が広がると思います。 例えば、必要に応じて知らない知識だったらGoogleで検索し
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://x.com/ish_creative/status/1835969693443616907?s=12&t=zWCSas0i2B9LF8qKMUplqg
Databricksの生成AI戦略
「知的単純作業」を自動化する、地に足の着いた大規模言語モデル (LLM) の活用
NVIDIA「Chat With RTX」を、RTX4060搭載ノートPCで動かす〜ローカルLLMでRAGを実現【イニシャルB】