LLMは「次の単語を当てる」だけなのに、なぜ思考しているように見えるのか？｜中島聡
これは私のメルマガ「週刊Life is beautiful」で紹介している記事の要約・解説です。要約をこちらに書き、リンクを貼った上で私のコメントを書くというスタイルで、メルマガ本体のボリュームを減らして読みやすくすることを目的としています。 LLMs do one thing: predict the next word. Here's how that creates something that feels like thinking LLM（大規模言語モデル。大量の文章を学習して人間のような文章を生成するAI）が実は「次に来る単語を予測する」ことしかしていないのに、なぜ思考しているように見えるのかを、専門知識のない人にも分かるように順を追って説明した解説です。AIの仕組みを人に説明する機会のある方には、そのまま使える説明の型になっています。 ChatGPTやClaude、Gemin
全文検索システム Hyper Estraier
概要 Hyper Estraierは全文検索システムです。たくさんの文書の中から、特定の語句を含むものを探して、該当するものの一覧を表示することができます。Webサイトを運営している方なら、自分のサイト専用の検索エンジンとして利用することができます。メールボックスやファイルサーバを対象とした検索ツールとして利用することもできます。 Hyper Estraierには、次のような特徴があります。 インデックスを使った高速な検索ができます。 大量の文書のインデックスを短時間で作成できます。 N-gram方式による漏れのない検索ができます。 形態素解析とN-gramのハイブリッド機構で検索精度を向上させます。 フレーズ検索や正規表現検索や属性検索や類似検索をサポートします。 世界各国の言語が扱えます。 対象文書の所在や形式に依存しません。 賢いWebクローラが付属しています。 ライブラリとして各種
Markdownノートを日本語で全文検索できるCLI「mikke」を作った
はじめに 学んだことや調べたことをMarkdownファイルとしてリポジトリに溜めているのですが、数百ファイルを超えたあたりから「あのメモどこだっけ」と探し回る時間が増えてきました。grepは速い一方でヒットが関連度順に並ばず、Obsidianの検索は強力なのにアプリの外（ターミナルやAIエージェント）からは使えず、既存のノート検索CLIには日本語がほぼ検索できないものが多くありました。そこで、日本語対応を最優先にしたノート検索CLI「mikke」（名前は、探し物が見つかった時の「みっけ」です）を作りました。本記事ではインストールから、AIエージェントにノートを検索させる運用までを紹介します。 キーワードをスペース区切りで渡すと、関連度順に返ってきます。 $ mikke find コンテナ ビルド キャッシュ 全文検索 'コンテナ ビルド キャッシュ' の結果 (6件, BM25 relev
AIエージェントはなぜテストを握り潰すのか ― 報酬エンジニアリングのすすめ
はじめに AIコーディングエージェントに仕事を任せていると、たまにギョッとする瞬間があります。 通らないテストを skip にして「全テストがパスしました！」と報告してくる。アサーションを緩めて辻褄を合わせる。ひどい時にはテストの期待値の方を実装に合わせて書き換えて、堂々と完了報告をしてくる。 そして「テストを勝手に変更してはいけません」と怒ると、その通りです、と悪びれもせず実装をやり直します。このような振る舞いにストレスを感じながら仕事をしています。 この挙動を「まだAIが未熟だから」と解釈している人は多いと思います。つまりモデルが賢くなれば自然に直る、一時的なバグのようなものだと。 私はそうは思いません。これはLLMという仕組みの構造に根ざした挙動であり、モデルが賢くなっても当分消えない基本原則だと考えています。そしてこの原則を認めた上で眺めると、プロンプトエンジニアリングだのコンテキ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ICC赤根所長への米国制裁の意味、クレジットカードも使用困難か：朝日新聞
