はじめに｜松田総一 | LeapMind清算人
自己紹介私は、長年にわたりAIの重要性を訴えてきた。そして、AIを社会実装していくために欠かせないものが半導体であり、ソフトウェアとハードウェア両方取り組む会社が必要であると考えた。 特にムーアの法則もあり、ハードウェアをいかに効率良く扱うためのソフトウェアスタックが重要かという点において、半導体の会社には欠けているように感じることから、LeapMindという会社を13年前に創業した。 これを、地政学リスクも踏まえ、日本で成立させることに意味があると考えており、ここまで日本にこだわって事業構築をしてきた。 最終的には、50億円の調達を行ったが、まともなAIや半導体ビジネスをするには、1桁足りないと判断して、数億の現預金残して、現在手仕舞い中。 実務としては、機械学習や半導体の知識、セールス、ファイナンス、人事、採用、(主に日本における)労務/法務/税務など、いわゆる会社を運営するために必要
Mac やめて Linux PC を自作した - IT戦記
みなさまお元気ですか 暑さも少し落ち着いてきて、ようやく外に出てもいいかなという気になってきました。季節の変わり目体調には気をつけていきたいですね。 実は、一ヶ月くらい前に Linux PC を自作して Mac から移行しました。そのときの考え、その後の感想を残しておきます。 また、学んだことや作業のログを細かく残しておきたいと思います。（どこかの誰かが不安に思ったときに同じ失敗や疑問を経験した人がいて安心してもらえたら嬉しい） Ubuntu のインストール画面 (ベストオープンソースと開発しよう！) 目次 Mac をやめるきっかけ、経緯 Ubuntu に移行して一ヶ月の感想 おまけ1: どのような PC になったか おまけ2: 事前に学んだこと おまけ3: PC の組み立て おまけ4: Ubuntu のセットアップ 加筆/修正 指摘のあった誤字を修正 NVEnc について誤った内容があっ
GPGPUのメモリアーキテクチャついて考えてみる - Ryuz's tech blog
GDDR について もともとGPGPUはGPUであり、GPUはグラフィックスボードであります。 グラフィックスボードは、DVIとかHDMIとかDisplayPort を備え、60fps などで毎フレーム画像を生成＆出力するものですが、そうするとゲームなどではその fps に対して、例えば 60fps であれば 16.6ms の時間で読みだせる分量だけのテクスチャなどを絵作りに使えることになります。昨今ではマルチパスレンダリングも当たり前に行われていますので、１枚の絵を作るためにメモリ上での描画作業は何度も繰り返されます。 つまり１枚の絵を、より高精細で複雑にしようとするととにもかくにも大量のバス帯域が無いとはじまりません。 逆に、1フレーム時間で読みだせない容量があっても、それは別のシーンの描画の為の準備的なデータを置いておくことにしか使えませんので、やはり容量より帯域が優先されがちです。
中島聡さん、NVIDIAのGPUが用済みになるって本当ですか？AI開発の行列乗算をなくす｢MatMul-free LM｣で気がかりなこと - まぐまぐニュース！
エヌビディアの強みであるGPUの優位性を揺るがすかもしれないAI関連の注目論文とは？人気急上昇中のメルマガ『週刊 Life is beautiful』より読者Q&Aをご紹介。著者の中島さんは「Windows95の父」として知られる日本人エンジニア。メルマガでは毎号、読者からの質問に丁寧に回答しています。 ※本記事のタイトル・見出しはMAG2NEWS編集部によるものです プロフィール：中島聡（なかじま・さとし） ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。 1ビットの高速推論AIチップ 米国より先に中国が開発する可能性も 読者からの質
Supercomputing Contest 2013/GPUプログラミング資料 - Supercomputing Programing Contest Official Site
Supercomputing Contest 2013/GPUプログラミング資料 最終更新日時: 2025-03-21 (金) 15:55:22 このページは随時改訂されます。 はじめに† 今年のSuperCon本選では、2012年度に引き続き、東京工業大学TSUBAME2.0スーパーコンピュータ上で、 GPUプログラミングに挑戦してもらいます。 GPU向けのプログラミング言語CUDAを用いて プログラムを組むことになります。 参加者の皆さんの多くにとってまだまだ見慣れない環境だと思いますので、 予習のための資料を前もって公開します (例年通り、本選期間の講習会も行います)。 C言語の基本知識があれば読み進められると思いますので、 挑戦してみてください。 ↑ 基礎編† 「GPUプログラミングって何？」というところから、簡単なCUDAプログラム を作成できるところまで説明します。 GPUプロ
LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由｜erukiti
もしあなたがLLMを使ったプロダクトを何かしら開発している、もしくは興味があるのなら、メモリを大量に積んだMac Studioの購入を検討すべきです。 対象読者NVIDIAが絶対にいいという人はこの記事の対象読者ではありません。また、用途によって、ローカルマシンによるローカルLLMが向いてる・向いてないは明確にあるので、向いてない用途にしか使わない人も対象読者ではありません。あしからず。 また、この記事は別にNVIDIAをdisる意図はありません。みんな違っていい。NVIDIAもいい選択肢ですが、Mac Studioも悪くないですよ、と言いたい。 結論LLMプロダクト開発において、今年はもはやローカルLLMを無視できない、してはいけない状況です。 LLMプロダクト開発をする会社の視点でいえば、是非とも80GB以上の十分なGPUメモリを積んだマシンを用意できるようなアジリティを持つのが望まし
CPUとGPUのマルチスレッディングの違いについて - arutema47's blog
"Locality is efficiency, Efficiency is power, Power is performance, Performance is King", Bill Dally マルチスレッディングとは？ CPUとGPUのマルチスレッディングの違いをブログにまとめていたけど例によって誰も興味なさそう— arutema47 (@arutema47) 2021年8月16日 つぶやいたら読みたい方が多そうだったので完成させました。 マルチスレッディングとはメモリ遅延を隠蔽しスループットを上げるハードウェアのテクニックです。 ただCPUとGPUで使われ方がかなり異なるため、その違いについて考えてみる記事です。 （SIMDについて並列プログラミングの観点から触れるべきでしたが、時間無いマルチスレッディングに注目するため初版では省きました。） 本記事について 本記事はCPUとG
渡辺明名人、１秒間に8000万手読むコンピュータを購入しディープラーニング系のソフトも導入（１）（松本博文） - エキスパート - Yahoo!ニュース
【渡辺明名人】37歳。名人・棋王・王将の三冠を保持し、現将棋界の序列１位。近年はコンピュータ将棋（AI）を用いての綿密な研究でも知られる。ほとんどの棋士を相手に勝ち越し「現役最強」とも言われるが、棋聖戦五番勝負では藤井聡太棋聖に挑戦して敗れた。 （７月某日、LINEにて、渡辺名人が研究用の新しいマシンの購入を検討しているという話になり） 渡辺 将棋ソフト用のパソコンと最新のソフト事情について教えてもらいたいんですけど。 松本 それなら水匠開発者の杉村達也さんが適任です。ご紹介しますよ。 渡辺 ディープラーニング系のソフトってなに？ってところですよ、私は（笑） 松本 ますますちょうどいい。私もそのあたり、さっぱりわからないので（笑）。ところで新しいマシンを買うのだと、たとえば藤井聡太さんみたいなモデルはCPUだけで50万円らしいですね。 松本 ということは、トータルで予算80万円ぐらいですか
オープンソースのニューラルネットワーク向けプログラミング言語「Triton」をOpenAIが公開
NVIDIAが開発・提供するGPU向けの汎用並列コンピューティングプラットフォームである「CUDA」を超える生産性と高速コード記述が可能になるようなオープンソースのニューラルネットワーク向けプログラミング言語「Triton」が公開されました。非常に効率的なカスタムディープラーニングプリミティブを作成するための言語コンパイラとなっており、GitHub上で開発リポジトリが公開されています。 Introducing Triton: Open-Source GPU Programming for Neural Networks https://www.openai.com/blog/triton/ OpenAI debuts Python-based Triton for GPU-powered machine learning | InfoWorld https://www.infoworld.
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【特集】 約30年でGPUはどのぐらい速くなったの？歴史を振り返りつつぜ～んぶ計算してみた
Ryuji Fuchikami on X: "LLM自体はまったく詳しくないのですが、とりあえず演算量に対してデータ(パラメータ)が馬鹿みたいに多いので、バランスブレーカーになっているのだという認識。"
https://x.com/ryuz88/status/1812677451669270626?s=12&t=suYC6B2IhN7jv0qU5zDxmQ
https://twitter.com/yutakashino/status/1675021755264425986?s=12&t=suYC6B2IhN7jv0qU5zDxmQ
データサイエンティスト向け性能問題対応の基礎 - GO Tech Blog
https://twitter.com/kaityo256/status/1478731103695683586
Tatsushi Matsubayashi 🍣 on Twitter: "随分時間が経ってしまいましたが「GPUサーバ増設とA6000のベンチマーク」というブログ書いて公開しました。主にRTX A6000のスペック知るために（公式情報が全然ないので）色々とベンチマーク取りました。TF32が異常に遅いけど… https://t.co/uqhZ3rTglT"
Rent GPUs | Vast.ai
にのぴら on Twitter: "同僚に勧められた https://t.co/3Xl3JntRnq"
jiccho on Twitter: "はてなブログに投稿しました #はてなブログ GPU向けコンパイラの最適化の紹介と論文のサーベイ - Jicchoの箱 https://t.co/TlGCXy6X4A"