著者：水野裕司 労働ジャーナリスト。2025年末まで日本経済新聞社に在籍し、編集委員、論説委員、論説副委員長などを務めた。2009～2021年の12年半、雇用・労働社説を担当。現在は執筆活動および講演活動。複雑な制度の多いこの分野の解説記事を分かりやすく書くことに努めている。日本記者クラブ、日本労働ペンクラブ会員。note「水野裕司のLabor Watch」でも発信。 AIが雇用に影を落とし始めている。米Amazon.com（アマゾン・ドット・コム）は約3万人という人員削減を公表した。AI時代の本格的な到来に備え、経営の効率化を進める狙いがある。 米国ではホワイトカラーの仕事が急速にAIに置き換わるとの見方から、いまのうちから要員削減を打ち出す企業が広がっている。 日本では、みずほフィナンシャルグループが今後10年で、事務職の業務量を最大5000人分減らす方針だ。AIの本格導入によってデー

はじめにこの記事では効率的な合成データ生成からそのデータを学習したモデルのGGUF変換、OllamaやLM Studioでの推論まで行います。 データ合成にはSDG LOOM、学習にはUnsloth Studio、推論にはLM Studioを用います。 これを理解すれば誰でもオリジナルのLLMを作成することができます。 今回は「小説生成ローカルモデル」を例に挙げて作成を行います。 それでは初めて行きましょう。 合成データの作り方このステップでは、LLMを用いた合成データを作ります。 オリジナルのLLMを作成するにあたって、1番大事なのは合成データです。 どのようなデータを作り、そしてそれを用いてどのような大規模言語モデルを目指すのかを決定するのがこのフェーズになります。 合成データを作るにあたって、以下の3つの点が大切だと個人的に思っています。 ・データの品質 ・コストパフォーマンス そし

Kuu - 自己紹介 ● ● ● ● Product Engineer @ Mercari Codex ambassador Cognition ambassador 趣味 ○ ○ 旅行 新しいものを試すこと

はじめに LLMの推論コストを支配する要因のひとつが KVキャッシュ（Key-Value Cache） のメモリ消費である。コンテキスト長が伸びるほどKVキャッシュは線形に膨張し、GPUメモリを圧迫してバッチサイズやスループットを制限する。 2026年3月25日、Google Researchは新しい圧縮アルゴリズム TurboQuant を公式ブログで発表した。KVキャッシュを 3ビットに圧縮しながら精度損失ゼロ を実現し、メモリ使用量を 6倍削減 、NVIDIA H100上で注意機構の計算を 最大8倍高速化 する。論文は ICLR 2026 で発表される。 この記事では、TurboQuantの技術的な仕組みからベンチマーク結果、コミュニティ実装を使った導入方法までを解説する。 この記事で学べること KVキャッシュがLLM推論のボトルネックになる理由 TurboQuantの2段階圧縮アル

はじめに RAG（検索拡張生成）を試そうとすると、多くの場合「ベクトルデータベース」のセットアップが必要になります。 しかし、「プロジェクト単位でサクッと意味検索がしたい」「DockerでDBを立てるほどではない」というケースも多いはず。そんな「重厚なDBはいらないけれど、grepより賢い検索が欲しい」というニーズに応えるため、検索ツール『concept-grep』を開発しました。また、データの保存形式として、concept-fileという仕様を定義しました。 concept-file とは？ .concept ファイルは、テキスト・埋め込みベクトル・来歴情報を1つのプレーンテキストファイルにまとめるフォーマットです。ベクトルDBは不要で、cp でコピーすれば知識が移動し、cat で中身を確認できます。 ファイルはヘッダー行（1行）とJSONボディの2セクションで構成されます。 +====