最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
本当に良いかどうかは時の洗礼を受けないと分からない。 だから去年買ったものを紹介する。 それにブラックフライデーだしな。 3年目の話 一昨年から1年前に買ってよかったものを紹介している。 なんか2回とも評判がいいし、俺の収入にもなる。だから今年も同じように書こうと思ったのだが、去年のトップブコメが気になっていた。 2021年に買って今も使い続けている良かったもの5選 - 本しゃぶり 逆に使わなくなった物も読みたい2022/11/25 08:50 確かに「使わなくなったもの」の情報は有用だろう。だがこれ単体だと俺の収入には繋がらず、書くモチベーションは生じない。だからまとめて紹介することにした。今回は以下の3つのランクに分けて紹介する。 使い続けていて、良いと思っているもの 使い続けているが、思うことがあるもの 使い続けていないもの なお、それぞれの製品でも述べるが、使い続けるかどうかは製品
2017年3月にNintendo Switchが発売されて7年になる。発売からこれだけの年数を経ても売れ続けるゲームハードは非常に珍しく、おそらく最終的には1.5億台強を売り上げたニンテンドーDSを超えて任天堂史上最大のヒット商品となるだろう。だが、Switchが最新ハードとして活躍し続けることはなく、近い内に新型ハードが発表されるのは確実だ。 信頼性の高いもの、低いものも含め多くの憶測記事がでて、その真偽を問われるたびに任天堂は記事内容の否定を続けている。本記事もその憶測記事のひとつに過ぎないので話半分で読んでほしい。 新ハードの発売時期・価格・スペックについて、2024年5月時点における数々の記事や過去ハードに関する情報、市場動向などを基に可能な限り"正解"に近づくように推測してみた。 なお、理由は後述するが新ハードがSwitchとの互換性を持つことはほぼ間違いないと思われるので、任天
Ryzenはゲーム用CPUとしては特に問題ないのだが、 ソフトウェア開発においてはIntelのCPUに比べて不便なポイントがいくつかある。 日々業務で使っていてあまりにもストレスが溜まるので、CPUをIntel Core i7に変更した。 このマシンは8年前に組んだ自作PC なのだが、使っていて不便を感じたパーツを差し替え続けた結果、 今回のアップデートで全てのパーツが当時とは違うものに変わったため、 それぞれ古い方のパーツで不便だったポイントなどを紹介したい。 仕事で使う自作PC 社内のサービスをいじる時は会社から貸与されているM1 MacBook Proを使うのだが、このマシンは不便である。 Rubyのビルドは自分のLinuxのマシンに比べ2倍以上遅いし、Reverse Debuggingができるデバッガが存在しないし、 慣れたツールであるLinux perfも使えないし、Podman
あけましておめでとうございます。2024年も皆様にとって良い年であるように祈っております。 2023年のベストバイをご紹介しようとリストアップしてみたところ、合わせて30アイテム以上になってしまいました。2023年は自覚的に断捨離の逆張りで高度消費社会の潮流に乗ってみようと思い立ち項目数多くなってます。 ただし各種購入に当たっては、無闇に浪費するのではなくいくつかのルールを決めてあります。 1)その商品分野をある程度リサーチしてベストと思われる機能、デザインの製品を選ぶ それぞれの領域について数時間〜長いものでは数ヶ月、あれでもないこれでもないと調べて吟味しました。 ・市場に流通している製品は概ねチェック ・知見のある方やYTでのおすすめを聞く ・国内で入手可能なものは店頭で触ってみる ・デザインについてはPinterestや画像検索等で国外に良いものないか調査、特に文具や家電はアジア圏、
もしあなたがLLMを使ったプロダクトを何かしら開発している、もしくは興味があるのなら、メモリを大量に積んだMac Studioの購入を検討すべきです。 対象読者NVIDIAが絶対にいいという人はこの記事の対象読者ではありません。また、用途によって、ローカルマシンによるローカルLLMが向いてる・向いてないは明確にあるので、向いてない用途にしか使わない人も対象読者ではありません。あしからず。 また、この記事は別にNVIDIAをdisる意図はありません。みんな違っていい。NVIDIAもいい選択肢ですが、Mac Studioも悪くないですよ、と言いたい。 結論LLMプロダクト開発において、今年はもはやローカルLLMを無視できない、してはいけない状況です。 LLMプロダクト開発をする会社の視点でいえば、是非とも80GB以上の十分なGPUメモリを積んだマシンを用意できるようなアジリティを持つのが望まし
米マイクロソフトは、現地時間9月21日に発表会を開催し、26日にWindows11の最新アップデートをおこない、AIツール「Copilot」を正式に実装すると発表。同時にSurfaceの新モデルも公開した。 Copilotは、9月26日からWindows11への無料アップデートの一部として提供され、今秋には Bing、Edge、Microsoft 365 Copilot にも展開される。公開されるWindows11は150を超える新機能を備え、Copilotのパワーと、ペイント、フォト、ClipchampなどのアプリにAIを活用した新機能が加わる。 ○Copilotのプレビュー版は常にタスクバー上に表示されるか、Win+Cショートカットを使用して起動可能となる。 ○ペイントアプリでは、生成AIによるCocreatorのプレビューに加え、背景の削除とレイヤーが追加され、画像作成にAIが活用で
コスパ良すぎ。デルの7.3万円ノートPC、大学生みんな買うべきじゃない？2024.03.13 11:0095,324 小暮ひさのり これ、絶対お買い得だと思うの。 間もなく4月。新生活に備えてノートPCを買わねば…。みたいに考えている人や保護者の皆さんも多いと思います。じゃあ、どれを買えばいいの？ となりますよね。まさにその問題を投げかけられました。 発端は僕の馴染みのコンビニ店員のお姉さんから｢大学用のPCを探しているんですが、予算10万円でなんとかなりますかねー？｣と聞かれたこと。 その時は｢大学4年間まともに使おうと思ったら、15万円くらいからですかねぇ｣と返しました。僕的には、快適なライン（メモリ16GB・ストレージ512GB）を満たすPCは、やっぱり15万円からという認識があったんです。 …が。その後気になって調べてみたら、すげえコスパ良いPC見つけちゃった。DELL（デル）です
Linux 使いになりたい人向けの Intel N100 ミニ PC で構築する開発環境（１） - 構築する開発環境について
構築する開発環境について ここで構築する開発環境は次のようなものを考えています。 仮想化ソフトウェア (Hyper-V + WSL2 + VirtualBox) コンテナソフトウェア (Docker Compose + Docker Engine) 開発エディタ (Visual Studio Code ) バージョン管理システム (Git + Git for Windows + Forgejo) CI/CD (githooks or Gitness or Woodpecker CI or GitBucket + gitbucket-ci-plugin or Jenkins) Intel N100 ミニ PC の特徴は低価格でありながら、仮想化機能を備えており、VirtualBox や Hyper-V といった仮想化ソフトウェアを動作できることが大きな魅力です。メモリ 16GB で SSD
次世代Nintendo Switch 「スイッチ2」(仮)のデモを見た証言続々。DLSSやレイトレ対応、UE5のMATRIXデモも | テクノエッジ TechnoEdge
著書に『宇宙世紀の政治経済学』（宝島社）、『ガンダムと日本人』（文春新書）、『教養としてのゲーム史』（ちくま新書）、『PS3はなぜ失敗したのか』（晋遊舎）、共著に『超クソゲー2』『超アーケード』『超ファミコン』『PCエンジン大全』（以上、太田出版）、『ゲーム制作 現場の新戦略 企画と運営のノウハウ』(MdN)など。 Nintendo Switchも発売から7年目を迎え、そろそろライフサイクルの終わりに差し掛かりつつあります。 そんななか、後継モデル（以下「スイッチ2」）の未確認情報も相次いでいましたが、今度は「任天堂が実際に開発者にスイッチ2の技術デモを見せた」と複数の人物が証言しています。 いずれも、先月下旬にドイツ・ケルンで開催された大型ゲームイベントgamescom 2023での証言です。 まずはイベント終了直後、マイクロソフト関連で信頼性の高いWindows Centralの編集者
Appleは、現地時間9月12日に開催した新製品発表イベントでiPhone15とiPhone15 Plusを発表しました。充電にUSB-Cポートを採用し、ディスプレイにはiPhone14 Proシリーズで採用されていたDynamic Islandを搭載しています。9月15日に予約受付開始、9月22日に発売されます。価格はiPhone15の128GBモデルで124,800円（税込、以下同じ）からです。 ■3行で分かる、この記事のポイント 1. AppleがiPhone15とiPhone15 Proを発表。 2. 充電にはLightningに替えてUSB-Cを採用。 3. ディスプレイ上部にDynamic Islandを搭載。 USB-CとDynamic Islandを搭載 Appleは、6.1インチのiPhone15、6.7インチのiPhone15 Plusを発表しました。充電やデータ転送に
｢なぜ｣4万も下がったのか？ その答えを探したかったんです。 先日配信されたAppleの新製品発表イベント。予想どおり、M3チップや搭載機新型のMacBook Pro、iMacなどが発表されました（詳しくは以下記事よりどうそ）。 そして！ その中でやはり注目されているのがMacBook Proではないでしょうか。だって… Image: Apple｢一世代前のモデルは1,999ドルからでしたが、最新モデルは1,599ドルから｣ って安くなってるんだもん。 日本のストアを見ても、最新の14インチMacBook Proは24万8800円スタート。一世代前の14インチMacBook Proは28万8800円スタートだったので、4万円も値下がっているのです。 しかし、この円安の時代。なぜ4万円も14インチMacBook Proが値下がっているのか？ なにか裏があるのではないか？ そんなAppleマジ
「メモリ8GBは不十分」ーーM3 MacBook Proの検証動画が公開 メモリ不足によって動作のもたつきやアプリのクラッシュが見られ、M3本来の性能が引き出せない Max Techよりキャプチャ Appleによると、M3 MacBook Proのメモリ8GBは「Windows PCの16GBに相当する」という。YouTubeチャンネル「Max Tech」が検証した結果、M3チップのポテンシャルを引き出すためには16GBのほうが望ましい、と結論づけている。 以下に紹介する。 検証に使用したモデルは14インチM3 MacBook Proの512GBモデル。一方は8GBメモリ、もう一方は16GBメモリを搭載している。 メモリの上限が少ないことで、ベンチマークツールのスコアは低く出ており、Blenderなど高負荷な作業ではメモリ不足が原因でクラッシュする様子が確認できる。想定される購入者の使われ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
2022年に買って今も使い続けているもの、使っていないもの - 本しゃぶり
次世代Switchの現実味のある予測(2024年5月現在)
自作PC2023: Ryzenをやめた - k0kubun's blog
買ってよかったBestBuy2023 IT&家電編｜hakuroum
LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由｜erukiti
米国速報：Windows11が9月26日に「Copilot」を正式搭載で150を超える新機能＆新Surfaceも!
コスパ良すぎ。デルの7.3万円ノートPC、大学生みんな買うべきじゃない？
【速報】iPhone15発表！USB-C採用、Dynamic Islandを搭載 - iPhone Mania
MacBook Pro 14インチ｢4万円値下げ｣に潜む闇と光
「メモリ8GBは不十分」ーーM3 MacBook Proの検証動画が公開