(追記) Macの8GBは本当にWindows PCの16GB相当なのか確認してみた
Appleが「Macの8GBはWindowsの16GB相当だぞ」と言ったもんだから、世間が騒がしくなっている。 それに輪をかけて、「Macの8GBと16GBを比べたら、16GBの方が速いぞ」という、いっけん関係していそうで、よく考えればまったく関係のない比較が結びつけられてしまって、これが人々の混乱を招き、騒ぎを大きくしてしまっている。 M3 MacBook Proの8GBのメモリはWindows PCの16GBと同等 - こぼねみApple幹部、MacBook Pro (14-inch, M3, Nov 2023)の8GBメモリは他のノートパソコンのメモリ16GBに相当するとコメント | Mac | Mac OTAKARAM3 MacBook Proのメモリ8GBは「Windows PCの16GBに相当する」 | ゴリミー「メモリ8GBは不十分」ーーM3 MacBook Proの検証動画
Metaの大規模言語モデル「LLaMA」をM1搭載Macで実行可能にした「llama.cpp」がアップデートによりわずか6GB未満のメモリ使用量で実行可能に - GIGAZINE
2023年2月にMetaが発表した大規模言語モデル「LLaMA」は、従来のGPT-3よりも小規模でありながらGPT-3に匹敵する性能を単体GPUの環境でも示すことが可能とされており、2023年3月にはエンジニアのジョージ・ゲルガノフ氏がM1などのApple シリコン搭載MacでLLaMAを動作させる「llama.cpp」を公開しました。そんな中、プログラマーのジャスティン・タニー氏がllama.cppが動作する際のメモリ使用量を減らすアップデートを行い、LLaMAの一部モデルに至っては6GB未満のRAMで動作することが報告されています。 Make loading weights 10-100x faster by jart · Pull Request #613 · ggerganov/llama.cpp · GitHub https://github.com/ggerganov/llam
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
I'm a Mac User With an Android Phone, Here's How I Get My Devices Working Together
