ローカルLLMのための最適なGPU選定：Mac Studio購入の決め手
はじめに どんな人向けの記事？ ローカルLLMに興味がある方 ローカルLLM向けにGPUの購入を検討している方 内容 本記事では、ローカルLLMの推論に向いているGPUの選定を行います。 タイトルにある通り、結論から言うと私はM2 Ultra搭載のMac Studioを購入しました。 なぜ私が60万円以上もするMac Studioを購入するに至ったのか？その経緯を書き留めています。 検討項目 ローカルLLMの推論向けに最適なGPUは何か？ 今後のGPU販売計画も考慮して、今買うべきか待つべきか？ Mac Studioを購入する際の具体的なスペックはどうすべきか？ 背景 昨年、画像生成AI向けにNVIDIAのGeForce RTX 3060 (12GB)を購入しましたが、最近のローカルLLMの性能向上により、このGPUでは物足りなくなってきました。また、メインで使用している第8世代Core
Claude Codeで開発を全自動化する - Orchestrator型Skillの設計と実践 - 株式会社ヘンリー エンジニアブログ
株式会社ヘンリーでソフトウェアエンジニアをしているwarabiです。 ヘンリーは医療業界向けのプロダクトを開発しており、開発メンバーにも難解なドメイン知識が求められます。そのため普段からドメインの理解や深堀りに時間をかけたいところですが、実際は開発業務も進めなければならないため、時間の使い方に悩んでいました。 この課題に向き合うために、普段開発で使っているClaude Code（Anthropic社が提供するCLIベースのAIコーディングアシスタント）をもっとうまく活用し、実装にかける時間を減らして学習に充てる時間を増やせないかと考えました。 それまでのClaudeCodeの使い方と課題 それまでの私のClaude Codeの使い方は、一言で表すとAIとのペアプロです。 AIによるコードの変更をリアルタイムに確認しながらその場で質問もできるため、設計やサービスの理解には役立ちます。 ただ、
Claude Codeですべての日常業務を爆速化しよう！ - Qiita
この4ドキュメントを使うと、品質を落とさずに速く仕事を進められるようになります。 PLAN.mdで「音声入力」が最重要な理由 この中で特に大事なのが、最初のPLAN.mdで自分の考えを全部ダンプすることです。そしてそのために音声入力が欠かせません。 LLMにドキュメンテーション系の仕事（資料作成、記事執筆、提案書など）をやらせるとき、少ない情報で動かしてしまうと、人間が思ってもいないことをどんどん生成してしまいます。これが「AIが書いた感」の正体です。 逆に、自分が思っていることを全部ダンプした上で「詳細の整理と日本語の微調整をやって」と頼むと、クリエイティブな仕事であっても「AIが勝手に生成した」という感じになりにくい。あくまで自分の考えの細部をClaudeに整えてもらった、という仕上がりになるので、100%手書きしたときと比べてアウトプットの品質が落ちにくいです。 ただ、この「全部ダン
1人で1万個量産、290円のマイコンボード「UIAPduino」ーー目指す先は100均の棚 - FabScene（ファブシーン）
「UIAPduino」は290円（税込）のArduino互換マイコンボードだ。RISC-Vアーキテクチャを採用したCH32V003を搭載し、USBケーブル1本で開発を始められる。 開発、製造委託、全数検査、梱包、出荷まで、すべてを手がけるのは埋田祐希（うめた ゆうき）氏、ただ1人。 自宅の机の上で1万個を検査し、3Dプリンターで作った治具で品質を担保する。「三度の飯より開発が好き」を価格で表現したら、すき家の定食と同じ290円になった。 だが埋田氏の目標は、このボードで利益を得ることではない。製造工程のすべてをオープンソース化し、世界中の誰もがクローンできる状態にすること。その先に見据えるのは「100均の棚に並んでいるマイコンボード」だ。 原価を知っているから、買えなくなった 埋田氏の本職はEMC（電磁両立性）のエキスパートだ。電子機器が法規制の範囲内で電波を出し、自他ともにデバイス間で悪
運転動画を検索可能にする 〜Cosmos-Embed1とDatabricksで〜
はじめに チューリング株式会社 MLOpsチーム の @stu3dio_graph です。 チューリングでは毎日データ収集車両を走らせ，数万時間を超える大量の運転動画データを収集しています。しかしデータが増えるほど 「ほしいシーンが見つからない」問題が深刻化 していきました。日時や車両 ID でフィルタリングすることはできても，「交差点で歩行者が横断しているシーン」「道路工事を避けて車線変更するシーン」のように，映像の中身に基づいてシーンを探す手段がなかったのです。 運転動画を探すためのシステム このたび，NVIDIA が公開した映像-テキスト埋め込みモデル Cosmos-Embed1 と Databricks Vector Search を組み合わせ，約 54 万シーン[1] (約 2,000 時間分の走行データ) に対するセマンティック検索システムを構築しました。本記事ではその設計と実
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
