タグ

2026年3月28日のブックマーク (2件)

  • Claude Opus 4.6と同等のAIをローカルで動かすにはいくらかかるか?ローカルLLMを構築してわかったこと

    「自分のPCAIを動かしたい」と思ったことはありませんか? ClaudeやChatGPTはクラウド上で動いているため、会話の内容がサーバーに送られます。機密情報を扱う場合や、純粋に「自分のマシンで完結させたい」という場合には、ローカルLLMという選択肢があります。 そこで実際にローカルLLMを構築し動かしてみたところある疑問が浮かびました。 普段使っているClaude Opus 4.6と同等の精度をローカルで出すにはどのくらいのスペックが必要なのか? 記事ではまずPowerShell上でローカルLLMを動かしてチャットするところまでを試し、その結果からClaude Opus 4.6と同等のAIをローカルで動かすにはいくらかかるかについて調べてみます。 ローカルLLMとは そもそもローカルLLMとは、自分のPC上で動かす大規模言語モデルのことです。推論内容はサーバーに送信されず、ネットワ

    Claude Opus 4.6と同等のAIをローカルで動かすにはいくらかかるか?ローカルLLMを構築してわかったこと
    igrep
    igrep 2026/03/28
    1.5億円分のGPUを5年使うとして、GPU代だけで一月あたり2500円か。電気代とか考えたら当然まだまだ赤字なんだろうなぁ
  • AnthropicがAI SREの限界を公式認定。「相関関係を因果関係と誤認し続ける」

    Anthropicは2026年3月19日のQCon Londonで、ClaudeをSRE(サイト信頼性エンジニア)として活用する試みの限界を公式に報告しました。「相関関係を因果関係と誤認し続ける」という根的な問題が残存しており、SREの完全代替には至らないと自社が認めた形です。AIにエラーログやアラートを読ませて原因を特定しようとしたことがある方には、直接関係する話です。 何を試みて、何が分かったか AnthropicはClaudeを使ってClaudeのインフラ障害を修復する、いわば「AIAIを管理する」構成を試みていました。ログやメトリクスを読ませ、警告アラートの原因を特定させ、修復アクションを実行させるという流れです。 結果として明らかになった問題は、警告の表面パターンは認識できるが、障害の根原因を特定できないという点でした。たとえば「メモリ使用量が急増した後にレスポンスタイムが

    AnthropicがAI SREの限界を公式認定。「相関関係を因果関係と誤認し続ける」