ハッカー魂 Llama4がMacBookで動く!ローカルLLMの時代が来た
もうゲーム終わってんじゃないのかな｜shi3z
LMStudioでLlama4 Scout-MLX-4bit版にこないだ書いた同人誌(5万字)を与えて「各章100文字で要約しろ」と言ったらローカルでこんな要約ができた。 MacBookPro M4(128GB)を使用 第一章：ローカルLLM革命 - Mac Studio 512GBが切り拓く新時代2025年上半期、AI技術の進化でローカルLLMが注目され始めた。特にAppleのMac Studio 512GBは、クラウドに頼らず個人で高性能LLMを実行可能にする象徴的な存在だ。これにより、プライバシーを確保しながらAIを利用する新しいパラダイムが現実のものとなった。 第二章：ローカルLLMと動画生成AIローカルLLMの進化に伴い、個人でも高性能なAIモデルを手軽に実行できるようになった。同時に動画生成AIの技術も進化し、誰でもアイデアを元に動画を作成できるようになった。これらの技術は創造
画像生成AIを始めたいけどグラボが高価で諦めている人に朗報、安価なAPUでも大容量なVRAMを割り当てて画像生成可能
Stable Diffusionなどの画像生成AIは自身の所有するマシンにインストールしてローカルで実行することが可能です。しかし、快適な画像生成に必要な「大容量のVRAMを備えたグラフィックボード」はPCパーツの中でも高価な部類に入るため、予算の都合から画像生成を諦めている人も多いはず。新たに、安価なAPUでも実用的な速度で画像を生成できたという検証結果がAI関連YouTubeチャンネル「Tech-Practice」によって報告されています。 Democratize AI: turn a $95 chip into a 16GB VRAM GPU! Beats most of the discrete GPUs! | by Ttiotech | Aug, 2023 | Medium https://medium.com/@ttio2tech_28094/51a8636a4719 Demo
Lightweight Hypervisor - AWS Nitro System - AWS
The AWS Nitro System is the foundation for our next generation of EC2 instances that enables AWS to innovate faster, further reduce cost for our customers, and deliver added benefits like increased security and new instance types. AWS has completely re-imagined our virtualization infrastructure. Traditionally, hypervisors protect the physical hardware and bios, virtualize the CPU, storage, network
監訳者解説 山形浩生：ハードウェアハッカー ～新しいモノをつくる破壊と創造の冒険｜技術評論社
「これ，いったい何の本なの？」店頭でぱらぱらめくっている人は，本書の中身の得体の知れなさを見てそう思うはずだ。 『ハードウェアハッカー』というから，エレクトロニクス系のちょっと変わったハード作りや改造のノウハウや，それにまつわる各種エピソードかな，というのが普通の期待だろう。そして，たしかにそのとおりではある。あるのだけれど……その幅と深さが尋常ではないのだ。 イノベーションとハッカーの意義 そもそもハッカーというと，悪い印象を持つ人も多いだろう。一般にハッカーといえば，なにやら他人のコンピュータに侵入して，ファイルを勝手に消したり改変したり，データを盗んだりする犯罪者だ。じつは著者バニー・ファンも，そうした色眼鏡で見られてきた。 でもその著者を含め，誇りをもってハッカーを名乗る人々がいる。というより，そちらのほうが正規の意味だ。ハッカーは，さまざまなものを独創的なやり方でいじり，その仕組
「プログラミングの常識」を時々見直す必要性について｜Rui Ueyama
自分の中のプログラミングの常識というものは、ときどき現実のハードウェアに合わせて調節しないといけない。ハードウェアが進歩し続けているので、コンピュータで簡単にできることと相対的に難しいことのバランスが変化し続けているからだ。ここでは特にストレージにフォーカスして書こうと思う。 昔はメモリが相対的にとても貴重な資源だったので多くのプログラマがメモリを節約することに血道を上げていた。例えばWindowsの初期の頃に設計されたデータ構造には、メモリをバイト単位ででもいいから節約したいという意図の痕跡がいまでも多く見受けられる。DRAMの次に速い記憶装置はHDDだったので、メモリが足りなくなればHDDにデータを保存せざるを得ないのだが、DRAMとHDDのランダムアクセスの速度差は、机の上の本の開いているページを見るのと、その本をAmazonで注文して到着するのを待つのと同じくらいのスケールで違うの
２値化CNN on FPGAでGPUとガチンコバトル（公開版）
TensorFlow User Group HW部(2017年２月２７日)で使ったスライドです。講演後、一部加筆・修正しています。Read less
TensorFlow User Group ハード部 #1 (2017/02/27 19:00〜)
TensorFlowとハードウェア、どちらも好きな人達の集まりです。当日はライブ配信もありますので、ご都合つかない方はできるだけ早めのキャンセルをお願いします。 セッション前半 7:00pm 「TensorFlowの量子化について」 by 夏谷実さん（株式会社パソナテック） Google社のオリジナルプロセッサTPU(Tensor Processing Unit)では、精度を犠牲にして速度と消費電力を改善させる量子化という技術が使われます。量子化の技術を使うことで、8bitでありながら浮動小数点数の範囲のデータを扱えるようになります。TensorFlowのソースコードから量子化の謎にせまり、量子化されたデータの演算の仕組やTPU、DSPで速く動く理由を探求します。 8:00pm - 8:30pm 懇親タイム セッション後半 8:30pm「IkaLog によるスプラトゥーン画像解析とFPGA
Deep learning（深層学習）チュートリアルなど集 - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? Academic 尾形哲也先生＠早大/産総研 2017/10/23ディープラーニングの実世界応用と今後の可能性 http://www.datascientist.or.jp/symp/2017/pdf/h2_ogata.pdf 2017/5/15 ディープラーニングのロボティクス応用の可能性 https://pdf.gakkai-web.net/gakkai/ieice/icd/html/2017/view/I_01_02.pdf ボレガラ ダヌシカ先生＠英国リバープール大 2015/4/12 ディープラーニングチュートリアル応用編 大
手のひらスパコンでKeras-Tensorflowを使ってみる - Qiita
この記事は Retty Advent Calendar 20日目です。 昨日は@takumi-suzukiのDNSでバランシングしていたら辛くなった話でした。 ガジェット手当 みなさん、いきなりですがスパコンを持ってますか？ 僕は持っています。 Rettyという会社は、エンジニアには通期で一回「ガジェット手当」という制度があります。 IT機器などを個人的に購入する場合に、業務とか用途関係なく援助してくれる制度です。 だからというわけではありませんが、Rettyでもスパコンを買ってみることにしました。 スパコン買ってみよう！ 皆さんが想像されるスパコンというのはこういうのをイメージされると思いますが、 By 0-0t - 0-0t, GFDL-no-disclaimers, Link やっぱ買うならこういうのが欲しいなと思ったりするのですが、残念ながらまだまだベンチャーのRettyにはこんな
I: Building a Deep Learning (Dream) Machine
As a PhD student in Deep Learning, as well as running my own consultancy, building machine learning products for clients I’m used to working in the cloud and will keep doing so for production-oriented systems/algorithms. There are however huge drawbacks to cloud-based systems for more research oriented tasks where you mainly want to try out various algorithms and architectures, to iterate and move
Bay Area Deep Learning School Presentation
このブラウザ バージョンのサポートは終了しました。サポートされているブラウザにアップグレードしてください。
趣味のTensorFlowのハードウェアとGPUクラウド事情 - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 目次 自分がやっていること、カジュアルディープラーニング TensorFlowで遊ぶために必要なハードウェア 自前PC編 クラウドサービス編 自分がやっていること、カジュアルディープラーニング もともとはカーネル主成分分析系統の理論で顔画像認識とかやったり諸々のコンピュータビジョンのあれこれでお仕事してたりしてました。最近はコンピュータビジョンのお仕事からは離れてフツーの開発をしています。 趣味でプログラミングもしていて今年はTensorFlowを始めました。TensorFlow将棋ソフト開発日誌 目次 という形で開発の経過を書いていま
A Full Hardware Guide to Deep Learning — Tim Dettmers
GPUThis blog post assumes that you will use a GPU for deep learning. If you are building or upgrading your system for deep learning, it is not sensible to leave out the GPU. The GPU is just the heart of deep learning applications – the improvement in processing speed is just too huge to ignore. I talked at length about GPU choice in my GPU recommendations blog post, and the choice of your GPU is p
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Memory Management in DuckDB
NT深圳コミュニティ NT Shenzhen ニコ技深セン – Medium
Pixel Visual Core: image processing and machine learning on Pixel 2
ROG XG STATION 2 | Gaming external-graphic-docks｜ROG - Republic of Gamers｜ROG Global
Reddit - Dive into anything
NVIDIA DGX Spark
