はてなブックマーク

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 先日、Cursorが最新バージョン0.47にアップデートされ、多くの機能改善が行われました。私も新機能を早速試してみたところ、特に「Rules」と「MCP（Model Context Protocol）」の改良が非常に印象的でした。 なお、MCPについては近日中に別記事で詳しく解説する予定です。今回は、その中でも「Rules」に焦点を当ててご紹介します。 1. Rulesとは？ Rulesは、Cursorに搭載されているシステムプロンプトのような機能です。半年前に初めてこの機能を紹介したときから、コード作成時の細かなトラブルが大幅に軽減

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 今年のはじめごろ、GoogleがGemini上で「Deep Research」機能を先行公開し、Advancedプランのユーザー限定で利用できるようにしました。その後先月２月には、OpenAIとPerplexityも独自のDeep Researchをリリースしました。 では、そもそもDeep Researchとは何なのか。どうして各AIサービスがこぞってこの機能を導入しているのか。そして、昨年末に一躍話題を集めたDeep Searchとは何が違うのか。本記事では、これらの疑問に答えるために、両者の特徴や使い道を詳しく解説していきます。

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 昨日、最近話題となったGraphRAGを試しました。 GraphRAGとは、データをナレッジグラフの形式で保管し、RAGで検索する際にはナレッジグラフで回答を探すという技術です。通常のRAGと比べると、基本的には正しい情報だけが含まれているため、精度が高くなります。マイクロソフトも先日RAGとGraphRAGを比較する研究レポートを発表しました。⇩（GraphRAGの特徴と、どんな場合にRAGより精度高いのかを多角的に説明しています。） ナレッジグラフ（Knowledge Graph）とNeo4j ナレッジグラフは主に、ノード（node

サイズが大きなLLM（70b、130b）を使いたい時に、大量なメモリが必要です。70bの場合は少なくとも80GB以上のメモリが必要です。（130bの場合は150GB） 例えば、A100（40GB）で計算しても、2,3台以上組み合わせて使う必要があります。 そこまでのリソースがない時には量子化という手法をよく使われてます。 今日は量子化について簡単に紹介したいと思います。 ①量子化前の前提作業：シャーディング（Sharding） ShardingはほとんどのLLMがやっていることです。 Hugging Faceでモデルをダウンロードすると、モデルファイル（.bin）が一つのファイルではなく、少なくとも十数個のファイルで構成されていることは気づけると思います。 一つのファイルをわざと数十個に分ける理由は、異なるstepでモデルの重みを分けて、メモリを節約できるからです。Shardingはacc