MCPクライアントに古典的な言語処理であるTF-IDFを組み込んだ話

MCPクライアントアプリでは、MCPサーバーからの大量応答がLLMのトークン消費を増加させ、課金額の増大を招く問題がある。この問題の解決策として、1970年代から存在するTF-IDF（Term Frequency-Inverse Document Frequency）を活用した要約手法を提案している。TF-IDFを使用することで、重要な文を機械的に選別し、情報損失を抑えながら大幅なサイズ削減を実現できるが、文脈の連続性や構造化データの処理には課題が残る。 MCPクライアントを作る上での課題 生成AI系のアプリを作ろうとすると、多くの場合で「トークン数が増えて課金額も増える」という問題に遭遇します。MCPクライアントアプリを作成する場合も例外ではありません。 例えば、以前紹介したこちらの記事では MCPツール定義のトークン数多すぎ問題 について記載しました。 このときはPrompt Cach