Meta Knowledge for Retrieval Augmented Large Language Models
Retrieval Augmented Generation (RAG) is a technique used to augment Large Language Models (LLMs) with contextually relevant, time-critical, or domain-specific information without altering the underlying model parameters. However, constructing RAG systems that can effectively synthesize information from large and diverse set of documents remains a significant challenge. We introduce a novel data-ce
Amazon Bedrock を用いた障害対応報告書とポストモーテム文書自動作成 ~ ペアーズにおける生成 AI 実装解説 ~ Pairs における生成 AI 実装解説 - builders.flash☆ - 変化を求めるデベロッパーを応援するウェブマガジン | AWS
Pairs (ペアーズ) は、株式会社エウレカが運営する恋活・婚活のマッチングアプリで、プロフィール情報だけでなく、価値観や人柄、相手に求める本音まで考慮し、理想の相手を見つけることができるサービスです。 ペアーズは、大規模なユーザーベースを持つマッチングサービスであり、システムの安定稼働が非常に重要です。多くのユーザーにとって、マッチングしたあと、ペアーズが実際に会うときの唯一の連絡手段となっており、障害が発生するとユーザー同士連絡が取れなくなるという重大なデメリットがあります。 過去には、障害発生時の対応に多大な時間とリソースを費やしてきました。特に、障害対応の指揮を取るコマンダーの責務が多すぎることで、新任のコマンダーが対応に苦労する場面が多々ありました。そこで、Amazon Bedrock を活用して障害対応の一部を自動化・効率化し、コマンダーの負担を軽減することで、誰でも対応
OpenAIが「DevDay」開催、昨年と打って変わって地味な様相に——AIを身近にするメジャーアップデート4つを披露 - BRIDGE（ブリッジ）テクノロジー＆スタートアップ情報
OpenAIが「DevDay」開催、昨年と打って変わって地味な様相に——AIを身近にするメジャーアップデート4つを披露 Image credit: OpenAI 派手だった昨年の回とは対照的に、OpenAI は1日に控えめなカンファレンス「DevDay」を開催した。 同社は今年、開発者に力を与え、コミュニティのストーリーを紹介することに重点を置いており、AI の競争が激化する中で戦略の転換を示唆している。 同社はこのイベントで 4 つの主要なイノベーション——Vision Fine-Tuning、Realtime API、Model Distillation、Prompt Caching——である。これらの新しいツールは、OpenAI の戦略的な軸足を、エンドユーザアプリケーションの分野で直接競合するのではなく、開発者のエコシステムを強化することに置いていることを強調している。 Promp
NVIDIA、新AIモデル「NVLM 1.0」をローンチ——「オープンで巨大、GPT-4に匹敵する準備が整っている」 - BRIDGE（ブリッジ）テクノロジー＆スタートアップ情報
NVIDIA、新AIモデル「NVLM 1.0」をローンチ——「オープンで巨大、GPT-4に匹敵する準備が整っている」 Nvidia は、OpenAI や Google のような業界リーダーの独自システムと競合する、強力なオープンソースの AI モデルをリリースした。 720億パラメータの「NVLM-D-72B」を筆頭とする同社の新しい「NVLM 1.0」ファミリーの大規模マルチモーダル言語モデルは、視覚および言語タスク全体で卓越した性能を発揮する一方、テキストのみの機能も強化している。 研究者チームは論文で次のように説明している。 NVLM1.0は、視覚言語タスクにおいて最先端の結果を達成するフロンティアクラスのマルチモーダル大規模言語モデルであり、主要なプロプライエタリモデル（GPT-4o など）やオープンアクセスモデルに匹敵する。 モデルウェイトを公開し、トレーニングコードを公開するこ
資料
勉強会で使用されたサーベイ・発表資料を公開しています。 日本語LLMまとめも公開しています。 2024-01-22 観測データからのLLMの学習及び自己改善ループについて、因果推論手法との接地（京大 三内） ichikara-instructionを使ったLLMの人間による評価とGPTによる評価の比較分析 （理研 関根） Kotoba Tech.の状態空間モデルと音声能力開発 （Kotoba Tech. 小島） 大規模言語モデルSwallow （東工大 岡崎、水木） 安全性WG （関根） コーパス構築WG （河原） 評価・チューニングWG （宮尾） モデル構築WG （鈴木） 2023-11-29 LLM-jp 状況報告（黒橋） LLMの安全対策サーベイと日本語データ（理研AIP 鈴木久美） ビジネスのドメインや最新情報に対応した130億パラメータの日本語事前学習モデルの開発（ストックマーク
Host your LLMs on Cloud Run | Google Cloud Blog
Run your AI inference applications on Cloud Run with NVIDIA GPUs Developers love Cloud Run for its simplicity, fast autoscaling, scale-to-zero capabilities, and pay-per-use pricing. Those same benefits come into play for real-time inference apps serving open gen AI models. That's why today, we’re adding support for NVIDIA L4 GPUs to Cloud Run, in preview. This opens the door to many new use cases
GitHub - confident-ai/deepeval: The LLM Evaluation Framework
DeepEval is a simple-to-use, open-source LLM evaluation framework. It is similar to Pytest but specialized for unit testing LLM outputs. DeepEval incorporates the latest research to evaluate LLM outputs based on metrics such as G-Eval, hallucination, answer relevancy, RAGAS, etc., which uses LLMs and various other NLP models that runs locally on your machine for evaluation. Whether your applicatio
LLM Evaluation Metrics: The Ultimate LLM Evaluation Guide - Confident AI
Although evaluating the outputs of Large Language Models (LLMs) is essential for anyone looking to ship robust LLM applications, LLM evaluation remains a challenging task for many. Whether you are refining a model’s accuracy through fine-tuning or enhancing a Retrieval-Augmented Generation (RAG) system’s contextual relevancy, understanding how to develop and decide on the appropriate set of LLM ev
What We’ve Learned From A Year of Building with LLMs – Applied LLMs
A practical guide to building successful LLM products, covering the tactical, operational, and strategic. Also published on O’Reilly Media in three parts: Tactical, Operational, Strategic (podcast). Also translated to Japanese (by Kazuya Kanno) It’s an exciting time to build with large language models (LLMs). Over the past year, LLMs have become “good enough” for real-world applications. And they’
RAGエージェントを10倍速くする「REAPER」
株式会社ナレッジセンスは、生成AIやRAGを使ったプロダクトを、エンタープライズ向けに開発提供しているスタートアップです。本記事では、RAGの性能を高めるための「REAPER」という手法について、ざっくり理解します。 この記事は何 この記事は、RAGを活用したAIエージェントの回答速度を10倍速くする「REAPER」の論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は以下の記事もご参考下さい。 本題 ざっくりサマリー REAPER は、ユーザーからの複雑な質問に対して、高速で回答できるようにするためのRAGの手法です。Amazonの研究者らによって2024年7月に提案されました。AmazonのようなECサイトのチャットボットでは、まさに、REAPERのようなRAG手法が大活躍します。「複雑な質問がくる上に
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
LLM 勉強会
The AI-native database developers love | Weaviate
GitHub - GoogleCloudPlatform/terraform-genai-rag at sic-jss
https://ecogai.ai/
すべての Vertex AI のコードサンプル | Google Cloud
RAG with BigQuery and Langchain in Cloud | Google Cloud Blog
チートシート.md: AIスタートアップ製品情報、レビュー、最新アップデート – AI StartUps Product Information, Reviews, Latest Updates
crewAI - Platform for Multi AI Agents Systems
GitHub - crewAIInc/crewAI: Framework for orchestrating role-playing, autonomous AI agents. By fostering collaborative intelligence, CrewAI empowers agents to work together seamlessly, tackling complex tasks.
Emerging UX Patterns for Generative AI Apps & Copilots