容量は減るけど、embeddingの作成が 1-> top_k * 2 倍になりそうなのがネック。top_kは適当な値だけど、多分5とかと思われ

arrowKatoarrowKato のブックマーク 2024/05/24 13:44

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

ベクトルデータの容量を96%削減するBinary Embedding

    導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。普段はエンジニアとして、LLMを使用したチャットのサービスを提供しており、とりわけRAGシステムの改善は日々の課題になっています。 RAGのシステムの中...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう