タグ

llmに関するgrapswizのブックマーク (3)

  • colabの無料枠でLLMを用いた議事録生成をできるようにした話 - Qiita

    はじめに 最近、OPENAIのGPT3.5turboやwhisperAPIを使用した議事録生成プロダクトが登場し、その革新性に注目が集まっています。 これらの議事録生成ソリューションは、APIを使用する際に商談内容などの機密情報をOPENAI社のサーバー内で扱う必要があり、セキュリティ上の懸念がついて回りました。しかし、このプロダクトは、GPU8GBあれば動作し、音声データの約1/5の時間(※)で議事録を生成でき、クラウドやオンプレミス環境での実行が可能です。 この議事録生成AIは、音声データから文字起こし、話者の割り当て、要約までを自動的に行い、最終的に生成された議事録を提供します。これにより、会議やセミナーの記録作成が大幅に簡素化され、時間と労力を節約することができます。 この記事では、議事録AIの簡単な処理内容とcolabでの使用方法と議事録生成結果について解説します。 ※ 以下の実

    colabの無料枠でLLMを用いた議事録生成をできるようにした話 - Qiita
    grapswiz
    grapswiz 2024/08/09
  • RAGに質問分類させる「Adaptive-RAG」の解説

    記事では、「Adaptive-RAG」についてざっくり理解します。軽めの記事です。 株式会社ナレッジセンスでは普段の業務で、生成AIやRAGシステムを活用したサービスを開発しています。 この記事は何 この記事は、Adaptive系で現在、最も「コスパ」が良いとされる「Adaptive-RAG」の論文[1]について、日語で簡単にまとめたものです。 今回も「そもそもRAGとは?」については、知っている前提で進みます。確認する場合は以下の記事もご参考下さい。 題 ざっくりサマリー RAGの回答精度を高めるための手法です。韓国科学技術院(KAIST)の研究者らによって2024年3月に提案されました。「Adaptive-RAG」という手法を使うメリットは、ユーザーからの入力としてシンプルな質問・複雑な質問、どちらも想定される場合に、「そこまで遅くなりすぎずに、ある程度の回答精度がでる」という点

    RAGに質問分類させる「Adaptive-RAG」の解説
  • Vertex AI Gemini ProとLangChainで実現するMultimodal RAG

    はじめに この記事は、Google Cloud Champion Innovators Advent Calendar 2023 18日目の記事です。 機械学習エンジニアをしています、原です。Google Cloud Champion Innovators(AI/ML)として選出いただき、活動しています。Google Cloud Innovatorsは、Google Cloud開発者/技術者のためのメンバーシッププログラムです。誰でも参加可能ですので、Google Cloudユーザーの方はぜひ参加をおすすめします! 先日、下記のような記事を公開し、Vertex AIにおけるGemini APIの概要と簡易的な実装例を紹介しました。 今回は少し実践寄りで、Vertex AIでのGemini APIとLangChainを組み合わせて、MultimodalなRAGを構築する一例を紹介します。実現

    Vertex AI Gemini ProとLangChainで実現するMultimodal RAG
  • 1