タグ

MemoryとLLMに関するvrcdiverのブックマーク (2)

  • エージェント向けメモリフレームワーク「honcho」を試す ① Quickstart

    GitHubレポジトリ GitHubのREADMEから抜粋。翻訳はPLaMo翻訳。 referred from https://github.com/plastic-labs/honcho Honchoは、時間とともに変化する人々、エージェント、グループ、プロジェクト、アイデアを理解し、状態を保持するエージェントを構築するためのメモリインフラストラクチャです。 メッセージやイベントを保存し、Honchoがバックグラウンドで推論を行うように設定すれば、任意のモデルやフレームワークから、ピアの表現情報、セッションコンテキスト、検索結果、自然言語によるインサイトなどを取得できます。api.honcho.devで管理サービスとして利用することも、FastAPIサーバーを自身でホストすることも可能です。 Honchoをメモリシステムとして採用することで、エージェントの保持率向上、信頼性の向上が期待で

    エージェント向けメモリフレームワーク「honcho」を試す ① Quickstart
  • KarpathyのLLM Wiki完全解説:RAGを超える知識コンパイル設計とは

    техbuddies.ioが「倉庫(RAG)vs 図書館(LLM Wiki)」と表現したのは的確だ。倉庫には大量のモノを詰め込める。しかし図書館は、の位置を知っていて、読んでいて、書き直しながら体系を維持する司書がいる。 RAGは「検索して参照する」システムだ。LLM Wikiは「読んで書き込み、体系を育てる」システムだ。クエリのたびに知識が積み上がり、次のクエリがより豊かになる。この「知識のコンパイル」という概念こそが、LLM Wikiを単なる検索最適化と分かつ核心だ。 技術スタック:何を使って実装するか LLM Wikiを実装するために必要なツールは以下の通りだ。特別な商用サービスへの依存はなく、ローカル完結できる。 Obsidian:WikiのMarkdownファイルを閲覧・管理するビューア。グラフビューでバックリンクを可視化できる。 Obsidian Web Clipper:ブラ

    KarpathyのLLM Wiki完全解説:RAGを超える知識コンパイル設計とは
  • 1