RAGの実案件に取り組んできた今までの知見をまとめてみた | DevelopersIO
はじめに 新規事業部 生成AIチーム 山本です。 ChatGPT（OpenAI API）をはじめとしたAIの言語モデル（Large Language Model：以下、LLM）を使用して、チャットボットを構築するケースが増えています。通常、LLMが学習したときのデータに含まれている内容以外に関する質問には回答ができません。そのため、例えば社内システムに関するチャットボットを作成しようとしても、素のLLMでは質問に対してわからないという回答や異なる知識に基づいた回答が（当然ながら）得られてしまいます。 この問題を解決する方法として、Retrieval Augmented Generation（以下、RAG）という手法がよく使用されます。RAGでは、ユーザからの質問に回答するために必要そうな内容が書かれた文章を検索し、その文章をLLMへの入力（プロンプト）に付け加えて渡すことで、ユーザが欲しい
Vercel AI SDK で Ollama を使う方法
はじめに Vercel AI SDK (React 等から LLM の API をいい感じに stream で呼び出せるようにするやつ) から Ollama （OSS の LLM をローカルで動かすやつ） を呼び出す方法を調べました。 参考 課題 Vercel AI SDK の サンプルコードを、OpenAI から Ollama の langchain のモデルを使って、置き換えて動かそうとしたけど、なぜかうまくいかなかった。 解決方法 ここのディスカッションにいろんな解決方法が記載されている。その中からいくつか試した。 解決方法 1 OpenAI Compatibility API を使う OpenAI API と同じ API で呼び出す方法。呼び出せるモデルに制約がある。マルチモーダルの llava は呼び出せない。 URL 変えるくらい。シンプル。すんなり動いた。 解決方法 2 la
日本リスキリングコンソーシアム
認定証の取得により子育てとキャリアアップ、 柔軟な働き方を実現 神奈川県 デジタルサイネージ業 小松 恵美さん 育児とキャリアの両立に悩んでいた時に日本リスキリングコンソーシアムの存在を知り、Google データアナリティクス プロフェッショナル認定証を取得しました。転職活動を始めた当初は小さな子どもがいることもあり、不安を感じていたものの、新しいスキルを身につけたことで未経験分野での転職を実現できました。 データ分析の仕事に就いた今では年収が大幅に上がっただけでなく、リモートワークやフレックスなど、これまで以上に柔軟な働き方ができるようになりました。子育てをしながら新たな分野でのキャリアをスタートできたことで、将来の可能性が一気に広がったと実感しています。 育児とキャリアに悩んでいた時にコンソーシアムを知り、Google データアナリティクス プロフェッショナル認定証を取得。転職活動当初
Microsoft、生成AIのプロンプト解釈を最適化するフレームワーク「SAMMO」を発表 | gihyo.jp
Microsoft、生成AIのプロンプト解釈を最適化するフレームワーク「SAMMO」を発表 Microsoftは2024年4月18日、生成AI/大規模言語モデル（LLM）で長文のプロンプトを効率的に処理できるオープンソースのフレームワーク「SAMMO」を発表した。 SAMMO: A general-purpose framework for prompt optimization -Microsoft Research Blog GPT-4などの新世代の言語モデルでは、長い入力テキストを処理する機能が向上している。このため、より長文でリッチな文脈と詳細な指示を言語モデルに入力することが可能となった。しかし、この文脈を新しいタスクに適応させるための迅速なエンジニアリングが必要とされている。 長文のプロンプトを処理する一般的な手法としてRAG（検索拡張生成）がある。RAGは特定の入力例に基
Anthropic Cookbook のおすすめレシピ
資料内に記載のリンク Anthropic Cookbook https://github.com/anthropics/anthropic-cookbook Context Window のお話 https://speakerdeck.com/schroneko/context-window-noohua 君は Anthropic Tools を知っているか? https://qiita.com/schroneko/items/a4098baa29580ec906b8 Claude Opus / Sonnet / Haiku System Prompt https://twitter.com/schroneko/status/1765372238503760324 Claude3にプロジェクト全体をぶち込むためのプロジェクトの構造とファイル内容を自動でまとめるPythonスクリプト htt
ローカルやOpenAIのモデルを使ってAIの力を借りながらメモを作成できるアプリ「Reor」を使ってみた
「Reor」はメモを書いている時に過去のメモの関連する部分が表示されたり、AIにメモの内容について質問したりできるメモ作成アプリです。AIモデルとしてOpenAIのモデルのほか、ローカルのモデルも利用可能とのことだったので、実際に使ってみました。 Reor https://www.reorproject.org/ Reorの公式サイトにアクセスし、「Downloads」をクリック。 「Download for Windows」をクリックします。 ダウンロードした実行ファイルをダブルクリック。 「詳細情報」をクリックします。 「実行」をクリック。 インストーラーが起動するので「次へ」をクリックします。 今回は特にインストール先を変更せず、そのまま「インストール」をクリックしました。 「Reorを実行」にチェックマークが入っているのを確認し、「完了」をクリック。 無事Reorが起動しました。初
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
