はてなブックマーク

TL;DR 「ローカルLLM＝コストが安い」はほとんどの場合で誤りです。2026年時点での損益分岐点はかなり高く、GPUを遊ばせると単価はAPIより高くつきます。 それでもローカルLLMが勝つ領域はあります。ガバナンス・タスク特化での精度・レイテンシ の3軸です。 実例として、RAGチャットボットの軽量な判定ステップを Gemma 4 E2B（2Bクラス）+ LoRA に切り出したところ、素のモデルでは 61 % だったドリフト検知率が、fine-tuning後に 97 % まで上がり、gemini-2.5-flash や 10倍以上大きい 31B モデルに並ぶ／一部上回る結果になりました。 重要なのは 「大きなモデルで教師データを作り、品質ゲートをかけて、小型モデルを蒸留的に特化させる」 データ生成パイプラインです。 はじめに ローカルLLMの話になると、まず出てくるのが「APIに毎月払

この記事は 2026/6/10 に東京で開催された Anthropic の開発者イベント「Code w/ Claude Tokyo」の参加レポートです。会場でのエンジニアの方との会話は個人の見解・体感ベースの内容であり、ご本人を特定しない形で要旨として再構成しています。 はじめに 6/10、Anthropic が日本で初開催した開発者イベント Code w/ Claude Tokyo に参加してきました。 会場のサインと東京の街並み しかもこの日は偶然にも（いや、狙ってたんでしょうが）Claude Fable 5 のリリース当日。会場全体が「今朝出たアレ、もう試した?」という空気で始まる、なかなか得がたい日でした。 私は損害保険ジャパンで、AI エージェントシステムを開発しているエンジニアです。日々 Claude Code でエージェントのオーケストレーションを組んでいる立場として、「中の

はじめに はじめまして、損保ジャパンDX推進部の辻です。普段はフロントエンドでリードを担当させていただいています。 弊部は約3年前に生まれた新しい組織であり、積極的に内製開発の取り組みを行っています。そんな3年間という短い間でも、MUIを採用して乗り換えるという事象が発生しており、ライブラリ選定における失敗について振り返っていきます。 組織におけるライブラリ採用の参考にしていただければと思います。 最新の状態 ライブラリはなるべく最新に追従していく方針です 言語：TypeScript UI全般：React UIコンポーネント：Radix UI、(+MUI) スタイル：Tailwind CSS グローバルstate：TanStack Query APIキャッシュ：TanStack Query ルーティング：React Router GraphQLクライアント：graphql-request

損害保険ジャパン株式会社 DX推進部の眞方です。この記事では、RAG（Retrieval Augmented Generative）の構築時に、ドキュメント検索精度の向上を目指して検索モデルの改善を行った際の手法、および結果について解説させていただきます。 概要を知りたい、という方は以前書いた前回の記事を読んでください。 はじめに 今回はRAGにおける検索モデルの改善を目的として、独自のデータを使用してfine-tuneを行いました。 RAGにおける検索（赤枠）の部分を改善する取り組みを行いました。 検索モデル 学習のためのライブラリとしては、sentence transformersを使用しました。また、モデルは日本語BERTを使用しています。 データ 今回RAGの対象となるドキュメントは、大きく次の2つが存在しています。 規定集 保険商品の説明等が書かれているドキュメントです（詳細は前

はじめまして。損害保険ジャパン株式会社 DX推進部の眞方です。普段はリードエンジニアとして、新しいサービスのアーキテクチャ検討からローンチまでの作業や、新規技術を用いたアプリのプロトタイプ実装などを行なっています。 弊社では、LLM（Large Language Models）を活用したアプリケーションの開発を積極的に検討し、既に社内でいくつかのプロトタイプをローンチしています。 本記事では、その最も一般的？なユースケースの一つとも言えるRAG（Retrieval Augmented Generative）の構築において、ドキュメント検索精度の向上にどのように取り組んだ内容の概要を紹介させていただきます。実際の詳細な手法および結果については、別記事（実践編）で解説予定です。 はじめに RAGとは？ この記事を読まれている方の中にはご存知の方も多いでしょうが、RAGとはRetrieval A