タグ

ブックマーク / tech.acesinc.co.jp (3)

  • CyberAgent社の日本語LLM OpenCALMの対話モデル用途のfinetune検証 - ACES エンジニアブログ

    こんにちは、ACESでアルゴリズムエンジニアとして働いている檜口です。最近はChatGPTを始めとする言語モデルの研究開発やプロダクト改善に取り組んでいます。 昨年末のChatGPTのリリース以降、大規模言語モデル(large language model, LLM)の社会実装が急速に進んできています。弊社でも商談解析AIツールACES MeetにLLMを組み込むなど、LLMの活用を広げています。こちらに関してはLLMを活用したAIまとめ機能リリースの裏側について過去記事を書いてありますのでご興味ある方はぜひご覧ください。 tech.acesinc.co.jp LLMはOpenAIChatGPTが最も有名ですが、最近はオープンソースでモデルを開発する流れも活発になっています。特に、英語で学習したオープンソースモデルはMeta社のリリースしたLlamaを始めとして非常に強力なものがリリース

    CyberAgent社の日本語LLM OpenCALMの対話モデル用途のfinetune検証 - ACES エンジニアブログ
    shunkeen
    shunkeen 2023/05/20
    “CyberAgent社がリリースした open-calm-7b モデルのfinetuneを行いました。今までリリースされた日本語モデルと比べてダントツに回答のクオリティが高くて感動するレベルです。”/検証するのも、記事書くのも爆速ですごい。
  • ChatGPT API を活用したAIまとめ機能リリースの裏側 - ACES エンジニアブログ

    こんにちは、株式会社 ACES でサーバーサイドエンジニアをしている福澤 (@fuku_tech) です。 ACES は、オンライン会議を録画し、独自 AI による話者ごとの自動文字起こしや重要なシーンの可視化を行うことで、オンライン商談における成約率の向上と現場の工数削減に寄与する商談解析 AI ツール「ACES Meet」を提供しています。 今回は、先日プレスリリースが公開された ACES Meet の新機能である ChatGPT API を活用した AI まとめ機能の裏側についてご紹介します。 prtimes.jp はじめに AI まとめ機能を実現するための課題 2-1. 入力データの精度改善 2-2. 長時間の会議・商談への対応 案1: 社内アルゴリズムと ChatGPT API を併用する 案2: ChatGPT API をフル活用する 2-3. 商談と商談以外の会議の性質の違い

    ChatGPT API を活用したAIまとめ機能リリースの裏側 - ACES エンジニアブログ
    shunkeen
    shunkeen 2023/04/28
    ChatGPTのAPIを使い込んだ骨太の記事だ。大規模言語モデルは柔軟だけど、柔軟だからこそ予想だにしない出力がでたり、制御が難しかったりするけど、諦めずに根気強く付き合うと、やれるものなんだなぁ。
  • 大規模言語モデルの知識を補完するための Retriever の紹介 - ACES エンジニアブログ

    こんにちは、株式会社ACESでインターンをしている篠田 (@shino__c) と申します。普段は博士課程の学生としてNLPの研究をしています。 ここ数ヶ月で ChatGPT に加えて GPT-4 等の大規模言語モデル (LLM) が次々とリリースされていますね。 ChatGPT (gpt-3.5-turbo) はAPIの使用料が安いことから、多くの人が気軽にLLMを使用できるようになり、AI、特にNLPを売りにしている多くの企業は技術的にどうやって競争優位性を築けばいいのか模索しているのではないでしょうか。 その問いに対する1つの答えになりそうなものに、Retriever というものがあります。 例えば、社内にある外部には出せない文書を元に顧客からの質問に答える質問応答のサービスを作りたい場合、ChatGPT のような LLM の訓練にはそのようなデータは使われていないため、prompt

    大規模言語モデルの知識を補完するための Retriever の紹介 - ACES エンジニアブログ
    shunkeen
    shunkeen 2023/04/01
    なるほど。学習時に意味を獲得できてない語彙はノイズになってセマンティック検索が不発に終わるのか。大規模言語モデルに独身のレトリバー(知識という獲物を回収する猟犬)を付けたら、確かに強そう。
  • 1