最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
Linuxの生みの親トーバルズ氏の最新自作マシンを徹底解剖--本人のコメント付きで構成を紹介
Steven J. Vaughan-Nichols （Special to ZDNET.com） 翻訳校正： 石橋啓一郎 2020-07-04 08:30 Linuxの生みの親であるLinus Torvalds氏は5月、Linuxカーネルメーリングリスト（LKML）で、次期バージョンである「Linux 5.7-rc7」の最近の開発状況について説明した。同氏はその中で、「15年ぶりに自分のデスクトップをIntelベースではないマシンにした」と述べている。最新の開発用マシンには、「AMD Threadripper 3970X」が搭載されているという。しかし、CPUがどれだけ高速でも、コンピューターの性能はそれだけでは決まらない。筆者は同氏にインタビューして、新マシンの詳しい構成を聞いてみることにした。 まず、同氏は既に新しいマシンのパフォーマンスに感動しているという。 「『allmodconf
RAMディスクとSSDの歴史
突然ですが、ぼくはRAMディスクが好きです。大好きです。 メモリを仮想的にドライブに見せかける技術だなんて、はじめて聞いたときにはワクワクが止まりませんでした。 若い頃に「PC98とDOS/V機でI/Oを叩けてOS管理外の拡張メモリを活用できるプログラムを組める人」という募集要項にピンポイントで当たってそれはもう思う存分メモリを操作するプログラムを書きまくって、こんな好きなことやって高い給料もらえるのうっれしー！と舞い上がっていた頃があるからかも知れません。EMSとかXMSとか大好物です。 まぁそれはそれとして、今回はWindows 10でも使えるRAMディスクツールについて紹介するつもりだったのですが、前置きを書いているだけで膨大な分量になってしまったので、記事を2回に分けます…。 RAMディスクの流行り廃り 3GBの壁があった時代 ぼくの記憶が確かなら、RAMディスクが最も注目を浴びた
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【レビュー】ASUS PN50：静かだともっと嬉しいパワフルミニPC
【西川和久の不定期コラム】 Haswellから一気にCoffee Lakeにジャンプした「Mac mini」
128GBもメモリを載せたら、PCはどこまで快適になるのか？ 動画や写真編集、VMにゲームまで…… 超多コアCPU＋大容量メモリは、最強の「ながら作業PC」？ text by 坂本はじめ
Engadget | Technology News & Reviews
