俺の128GB MacBook Proが真価を発揮する時がきた。ChatGPT o4-mini並みのgpt-oss-120bがローカルで動いてるよ（CloseBox） | テクノエッジ TechnoEdge
やってきましたね。PCユーザーたちがMacユーザーを羨望の眼差しで見るときが。 OpenAIが公開したChatGPTのオープンソース版「gpt-oss」。その2つのモデルであるgpt-oss-20bとgpt-oss-120bは、それぞれ16GB以上、80GB以上のVRAMを持つプロセッサが必要です。 下位モデルのgpt-oss-20bはChatGPT o3-miniと、上位のgpt-oss-120bはo4-miniと同等の結果を出すとしています。 つまり、世界で最も使われているLLMの、実力的にも十分なモデルが、ローカルマシンで動くのです。 しかし、推論には高性能なGPUが必要。16GB以上のVRAMを持つGPUならNVIDIA製ボードがいくらでもありますが、120bを動かせる80GB以上のVRAMを積んだGPUは、現行モデルでなくても数百万円はしますし、そもそも希少なものなので手に入れる
Google、AIを使って非構造化テキストから構造化データを抽出するオープンソースPythonライブラリ「LangExtract」をリリース | gihyo.jp
Google、AIを使って非構造化テキストから構造化データを抽出するオープンソースPythonライブラリ「LangExtract」をリリース Googleは2025年7月30日、非構造化テキストから構造化データを抽出するオープンソースのPythonライブラリ「LangExtract」をリリースした。 Introducing LangExtract: A Gemini powered information extraction library -Google Developers Blog ✨Announcing LangExtract! ✨ Our new open-source Python library for information extraction, powered by #Gemini. ✅ Turn text into structured data ✅ Trace
プロダクションのコードで Vibe Coding を使う方法｜牛尾 剛
最近は、自分はかなり Vibe Coding にお世話になっている。実際にプロダクションのコードでも使っていて自分的には普通のことと思っていたのだが、ある人にどうやってやってるのか聞いてみたいと言われたのでせっかくだからブログに書いておくことにした。みんなとっては普通のことかもしれないので、整理のためにも書いておこう。 Vibe Coding の光と影Vibe Coding を使うと、GitHub Copilot Agent などを使うと、自然言語で指示をすればプログラムを書いてくれる。これがあると、素人でもコーディングができそうだ。プロトタイピングや、ゼロから何かを作るときはなかなか良い感じだが、プロダクションで何も考えずに使えるというわけにもいかない。実はコードが複雑になればなるほど、そのままではうまくいかない。 今読んでいる AI Engineering より引用した次のグラフが興味
Vide Codingで使うチケットシステムticket.sh作ったよ｜masuidrive
Coding Agentでもチケット管理的なことをやらないとコードを書き続けるのは難しい。何をどこまで作ったかわからないし、Check listを作ってちゃんとチェックさせないとLLMは簡単にサボる。 従来のアプローチとその限界私も最初は、Agentにコーディングさせたいことは先にdocs/project-backlog.mdに書き出させて作業させてた。でもファイルが無限に大きくなるし、大きくなってくるということを聞かなくなってくるし、個別チケットファイルにしても管理が難しい。 GitHub Issues: MCPで連携できるけど人間中心すぎ。LLMが扱うならMarkdownやYAMLがいい。 バックログファイル: 一つのファイルに全て詰め込むと扱いきれない 個別チケットファイル: ファイルの管理が必要 理想的な解決策チケットを個別ファイルにしてgitに保存するようにしてチケット管理すれば
現状のAIが全然使い物にならないのは、非常に正しくて、そして間違っている。
https://anond.hatelabo.jp/20250627100609 まず、上記の「全然使えない」という感想は、的確で正しい。 自分は、まだ素朴なニューラルネットワークで光学文字認識(OCR)で精度を出していた頃からこの界隈と付き合いがあるが、現状のAI界隈は少しハイテンションすぎる。 現在の熱狂的なブームは、チャットベースの大規模言語モデルのデモンストレーションが知的に"見える"ことからくる誤解であって、これは誤解させる方が悪い。 誤解させる方が悪く、上記の感想は正しいものだ。そして、使い物になるかならないかで言えば、既に使い物になる。 全然使えないAIという感想や実感は、正しいまず全然使えない例について反論したくなる人もいると思う。２つだけ例題に付き合って欲しい。 1. カーナビに対して以下の入力をしたが、まったく使い物にならない。 【フランク・キャンパーという元ベトナム退
オープンソースのAIコーディングエージェントopencodeが一般利用可能に | gihyo.jp
ターミナル上で動作するオープンソースのAIコーディングエージェント「opencode」は2025年6月20日、Claude Pro/Maxへの対応や、75以上のLLMプロバイダに対応して一般利用できるようになったことをアナウンスした。MITライセンスのもと、開発はGitHubで進められている。 opencode The AI coding agent built for the terminal. sst/opencode: AI coding agent, built for the terminal. -GitHub opencode is here https://t.co/q0BS0gvpw2 pic.twitter.com/PHCWh7vYwX — SST (@SST_dev) June 19, 2025 opencodeはTypeScriptおよびGo言語で構築されたオープンソ
シスコ、特化型LLM「Deep Network Model」でネットワーク作業を自動化--「AgenticOps」戦略を推進
ネットワーク大手のCisco Systemsは米国時間6月10日、AIのキャンパス（構内ネットワーク）導入に特化した新型ルーターとスイッチを発表した。同社は、AI向けネットワークの開発でNVIDIAと協業している。 Ciscoは、ハードウェアとともに、ネットワーク管理ソフトウェアの最新版も発表した。新バージョンでは、同社が開発した大規模言語モデル（LLM）の「Deep Network Model」を活用し、ネットワーク関連の作業を自動化する。 これら一連の取り組みは、6月8～12日に開催の年次カンファレンス「Cisco Live」で発表された。 ハードウェア面では、Ciscoの「Secure Router」シリーズの最新版として「8100」「8200」「8300」「8400」「8500」の各モデルが発表された。同社によれば、これらの新モデルは従来の製品に比べてスループットが3倍に向上してお
コーディングエージェントの現状の整理とエンジニアの仕事の変化について
AI によるコーディングの支援はコード補完型からチャット型、そして自律型へと進化しています。この記事では現時点で主流となっているコーディングエージェントの種類とその特徴を整理したうえで、エンジニアの仕事の変化について考察します。 コーディングの仕事における AI 技術の関わりといえば、GitHub Copilot を代表するエディタ補完型が主たるものとして認識されてきました。補完型の AI はユーザーが途中まで書いたコードを補完する形で提案を行うことから、ペアプログラムの相方のような存在として捉えられていました。例えば function add と書き始めると、AI は (a: number, b: number): number { return a + b; } といった形で関数の定義を提案します。ユーザーは Tab キーを押すことで提案を受け入れたり、提案が気に入らなければそのままコ
Claude Code の CLAUDE.mdは設定した方がいい - じゃあ、おうちで学べる
[社内共有版「Claude Code、どこまでも」] はじめに Claude Codeを使い始めて1週間。私の開発スタイルは完全に変わった。 きっかけは3ヶ月前に書いた「生成AIといっしょ: 動作するきれいなコードを生成AIとつくる」という記事だった。当時はAIとの協業について考察していたが、正直なところ、まだ私が「運転席」に座っているつもりでいた。AIはあくまで「副操縦士」だと。 syu-m-5151.hatenablog.com 現実は違った。 実際にClaude Codeを使ってみて最初に感じたのは、自分の開発スタイルとAIの特性のミスマッチだった。私は根っからの「とりあえずコード書いてみよう」タイプ。設計書？計画？そんなものは書きながら考えればいい—それが私の流儀だった。 ところが、AIは違う。指示に対して忠実すぎるのだ。「認証機能を実装して」と曖昧に伝えれば、私の意図とは全く違う
CPUが得意なことをCPUにまかせて少ないVRAMでも大きめのLLMを速く動かす - きしだのHatena
Redditに「VRAM足りないとき一部のレイヤーをCPUに任せるんではなく、レイヤー全部をGPUに載せてレイヤー内部のFFNだけCPUに持っていったら速くなった、なんでこれが標準じゃないんだ」というのがあったので、おうちのRTX 4060 Ti 16GBで試してみたら微妙に速くなりました。 https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7/dont_offload_gguf_layers_offload_tensors_200_gen/ Qwen3 30B A3Bで試してみる こういった指定がOllamaやLM Studioではできないので、今回はKoboldCPPというので試してます。 https://github.com/LostRuins/koboldcpp KoboldCPPでは実用が厳しいので、llama.cppで試すほう
LLMで活用するためにあらゆるコンテンツをMarkdownに変換して一箇所に集める方法
マークダウンを一箇所に集める LLMとMarkdownの相性が良いという話は、最近多くの人が話題にしたり感じていることかと思います。 おそらく、そのうちあらゆるデータを直接LLMに手軽に安く入力できるようになるとは思いますが、それにはしばらく時間がかかるのも確かだと思います。なので、今はとにかくMarkdownを集めてLLMの手に届く範囲に置いておきたくなるわけです。 しかしながら、データというのは、だいたい色々な形式で色々な場所に散在しているものです。なので、そういったデータを変換してまとめる仕組みが一番重要になってきます。逆に言えば、そういう仕組みさえ構築できれば、プラットフォームは、はてなブログでもZennでもTwitterでもNotionでも何でも良かったりします。ただ、データを手軽に取得（APIで取得 or エクスポート）する方法があることが重要ですね。Obsidianが、最近L
第860回 Ubuntu+Visual Studio Code+Ollamaでプログラムの相談をする | gihyo.jp
今回はVisual Studio CodeにAI Toolkit for Visual Studio Codeをインストールし、Ollamaのフロントエンドとして使用する方法を紹介します。 AIにプログラムを書かせるところまでしなくても 世間ではAI（LLM）にプログラムを書いてもらって云々という話題をよく見かけますが、そこまではしなくても、プログラムに関する悩みごとがパパっと解決したらいいなと思うことはよくあります。たいていは試行錯誤の上で解決するので、LLMに悩みを聞いてもらって解決できたら、ずいぶんと生産性が上がることでしょう。もっといい書き方あるのではないかと訝しんだり、思いつかない不具合があるのではないかと疑心暗鬼になることもあります。そんなときも、LLMに聞いてもらえればそれなりの答えが期待できます。とはいえあまり大事にはしたくないので、ローカルで動作するLLMを使用したいとこ
Vibe Coding で遊ぼう
Vibe Coding とはなんでしょうか？ はじめに提唱した Andrej Karpathy 氏はこう言っています。 参考程度に意訳をば。 私が Vibe Coding と呼んでいる新しいコーディングスタイルがあります。それは完全にバイブに身を任せ、指数関数的な変化を受け入れ、コードが存在することさえ忘れてしまうものです。これが可能なのは、LLM（例えば Sonnet を使った Cursor Composer）があまりにも優秀になっているからです。また、私は SuperWhisper を使って Composer と会話するだけなので、キーボードにほとんど触れません。「サイドバーのパディングを半分に減らして」のような、面倒くさくて自分で調べることが億劫な些細な修正をお願いします。常に Accept All を選び、差分は読みません。エラーが出たら、単にエラーのみをコピペするだけで、たいてい
オレオレ RAG をさくっと作る
この記事は間違いが含まれている可能性があります。 もともと自社のドキュメントでは Meilisearch で日本語全文検索を実現していましたが、ドキュメントに質問できるようしたいと思い、簡単な RAG を作りたい！と思っていました。 とりあえず、ドキュメントを分割し、ベクトル化してベクトルデータベースに突っ込んで、質問をベクトル化して結果を引っ張り、それを LLM に食べさせて解説させる、というのができればよいということがわかりました。 ベクトル化はよく使われている OpenAI Embeddings API を利用し、ベクトルデータベースは普段からよく使っている DuckDB に VSS (Vector Similarity Search for DuckDB) という拡張を使うことにしました。 自社のドキュメントをなんとかうまいこと分割して、あとは分割したドキュメントを API を叩い
ニューラルかな漢字変換システム「Zenzai」の開発 | さくらのナレッジ
こんにちは、東京大学の三輪敬太です。 私は2024年度に未踏IT人材発掘・育成事業として「ニューラル言語モデルによる個人最適な日本語入力システムの開発」というテーマで採択され、早稲田大学の高橋直希さんとともにmacOS上の日本語入力システムを作りました。今回はこの中でも中心的な開発テーマの1つであった「ニューラルかな漢字変換システム」の開発と、その成果について紹介します。 かな漢字変換とは？ 日本語は通常、漢字やひらがな、カタカナ、数字、アルファベットなど、何千種類もの文字を使い分けて表記されます。これをわずか高々100個強のキーしかないキーボードで入力するために重要になるのが、日本語入力システムによる支援です。 多くの皆さんが使っている日本語入力システムでは、ローマ字を介してひらがなを入力し、それを変換して漢字かな交じり文とします。このひらがなによる入力から漢字かな交じり文を作る部分で行
最近1行もコードを書いていない
最近のAIの進化は目覚ましく、コーディングにおいても、もはや人間が一切を関知せず"ノリ"で全てを完成させるvibe codingなる概念まで登場しました。 しかし、現実の業務にこれを適用すると、まあ、上手くいきません。 1ファイルで完結するようなスクリプトであれば上手くいきます。驚くほど上手くいってびっくりします。テトリスを書いて、と指示したらテトリスは完成するでしょう。 しかし現実のコーディングは素朴なテトリスを実装するほど単純ではありません。 LLMの限界 ここで一つの問いを考えます。 「入社初日の知識豊富なエンジニア」と「ここ数ヶ月の間、機能Aの開発に携わっている普通のエンジニア」、どちらが5分で機能Aの開発を進められるか？ おそらく、答えは後者になると思います。 これがまさにAIによるコーディングに起こっていることで、 どれだけLLMの性能が向上したところで、実装に関する知識（コン
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【Ubuntu日和】 【第77回】llama.cppをビルドして、いち早く話題の日本語LLMを使おう！
https://docs.anthropic.com/ja/docs/claude-code/tutorials
DeepWiki | AI documentation you can talk to, for every repo
「事前学習はやり直しのできない一発勝負」 国産フルスクラッチLLM「PLaMo」シリーズ開発者に独占インタビュー／最新「PLaMo 2」の登場が国産AIの潜在力を世界に示す新たな一歩に【特集・集中企画】
