国内最大(Top500ランキング5位)のスパコンである産業技術総合研究所(産総研/AIST)の「AI Bridging Cloud Infrastructure(ABCI)」が8月1日に運用を開始した。550PetaOpsという膨大なAI処理能力を研究者や開発者に提供することにより、我が国のAIやビッグデータ処理の進歩を加速しようという狙いである。 8月10日追記:本稿初出時、ABCIの運用開始日を7月30日と記載しておりましたが、正しくは8月1日からとなりますので当該箇所を修正させていただきました。 このABCIスパコンは、東京大学(東大)の柏IIキャンパス内の東大と産総研の共同施設に設置されている。なお、柏キャンパスには国内2位のOakforest-PACSが設置されており、筑波エクスプレスの柏の葉キャンパス駅付近は、スパコン銀座となっている。 次の写真は、ABCIスパコンが設置された

[DL輪読会]Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets

国立天文台は、国立天文台天文シミュレーションプロジェクト(Center for Computational Astrophysics:CfCA)において、天文学専用スーパーコンピュータ「アテルイ」にかわる新たな大規模数値計算専用計算機として「Cray XC50 システム」(通称「アテルイII」)を導入し、6月1日より国立天文台水沢キャンパス(岩手県奥州市水沢)にて運用を開始すると発表。同日、記者会見を実施した。 国立天文台 天文シミュレーションプロジェクト長の小久保英一郎氏 アテルイIIは、2018年3月まで運用されてきた「アテルイ」と同様のスカラ型並列計算機と呼ばれるスーパーコンピュータだ。約4万のコア(Intel Skylake 20コア 2.4GHz)を搭載しており、理論演算性能は3.087PFlopsとなる。国立天文台 天文シミュレーションプロジェクト長の小久保英一郎氏は、「アテル

次のグラフは、CUDA9.0のcuBLASを使って行列の乗算を行った場合の性能をプロットしたものである。グラフの横軸は行列のサイズで、縦軸はTFlops値である。3本の折れ線は、下から順に、倍精度浮動小数点演算、単精度浮動小数点演算、Tensorコアを使う混合精度浮動小数点演算の場合である。 行列のサイズがある程度以上大きい場合は、倍精度では7TFlops程度、単精度では14TFlops程度の性能が得られており、これは理論ピーク性能とほぼ一致している。混合精度の場合は、ギザギザした線になっているが、70TFlops強の性能が得られている。理論ピーク性能は113TFlopsであり、cuBLASの使用でピークの70%程度の性能が得られている。 Voltaの浮動小数点演算の性能。行列のサイズが2Kを超えるとほぼ一定の性能になり、倍精度では7TFlops、単精度では14TFlops、混合精度を使う

暁光の実装単位は32PEZY-SC2カードを搭載するブリック 次の図にブリックの写真を示す。1つのブリックには32枚のPEZY-SC2カードと2枚のデュアルXeon Dカード、8枚のInfiniBand EDR HCAカードが搭載でき、4ノード分のハードウェアが収容されている(この図の写真はZS2.0のもので、ZS2.2ではXeon DカードやHCAカードの枚数が増えている)。 次の図の左上の写真はブリックの全景、右上の写真はタンクにブリックを取り付けた状態の写真である。下の写真は、カードをすべて取り外し、ベースキャリアボードやサブキャリアボードが見えている状態である。 暁光のブリックの写真。左上が全景。右上はタンクに実装した状態。左下はSC2ボードなどを除いて、キャリアボードが見える状態(これらの写真やカード枚数はZS2.0のもので、ZS2.2ではカードが少し増えているが、外見上、大きな

京コンピュータは2011年の6月と11月のTOP500で世界一となった日本のフラグシップスパコンであるが、すでに7年近くを経過し、昨年11月のTOP500ランキングでは10位に下がっている。 この京コンピュータの次世代スパコンを開発するFlagship 2020プロジェクトで、Post-Kと呼ばれるスパコンの開発が行われている。このPost-Kコンピュータについて、理化学研究所(理研)で開催された「New Horizons of Computational Science with Heterogeneous Many-Core Processors」と題するワークショップにおいて、Flagship 2020プロジェクトのアーキテクチャ開発チームのリーダーを務める筑波大名誉教授の佐藤三久氏が講演を行った。 次の図に書かれているように、Flagship 2020プロジェクトのミッションは、京

You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

The Peak-Performance-Percentage Analysis Method for Optimizing Any GPU Workload Figuring out how to reduce the GPU frame time of a rendering application on PC is challenging for even the most experienced PC game developers. In this blog post, we describe a performance triage method we’ve been using internally at NVIDIA to let us figure out the main performance limiters of any given GPU workload (a

You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

「CDC 6600」はControl Data Corporation(CDC)が1964年に開発したスーパーコンピュータである。CDC 6600は、IBMのStretchと比較して3倍の性能を持っていた。 CDC 6600の発表に関して、IBMのT.J.Watson Jr.は、次のようなメモを幹部に送っている。 「先週、CDCは記者会見を開いて6600システムを発表した。このシステムを開発した部門の人員は"掃除夫まで含めても"たったの34人である。その内、エンジニアは14人、プログラマは4人で、博士号を持っているのは1人だけである。その博士も、比較的初級のプログラマである。外部から見ると、この開発部門はコスト意識が高く、ハードに働く、強い動機をもったチームであると考えられる。この控えめなサイズの開発を、わが社の巨大な開発と比較すると、最も強力なコンピュータを他社が提供し、業界のリーダーシ

KMCの例会講座で用いたスライドを一部編集したものです。 ビット演算を組み合わせたトリッキーな方法で様々な操作を高速に行う方法を紹介します。

サイボウズ・ラボの光成です。 今回は2月17日に開催された「x86/x64最適化勉強会8」の模様についてお伝えします。 第7回からなんと約3年振りです。 今回の発表内容はAVX-512周りの話が2件、命令の正確なレイテンシの話、年明けから世間を騒がせているMeltdownとSpectreの話が2件でした。 以下、それぞれの発表内容について簡単に解説します。 AVX-512関係 私の発表は「AVX-512（フォーマット）詳解」でした。 AVX-512はまだSkylake-Xなどの一部のCPUにしか搭載されていませんが、今後徐々に採用が増えるでしょう。 （注意）21ページの「3値論理」は「3項論理」の方が適切です。 AVX-512のレジスタ構成や基本的な命令セットを説明した後、AVX2までにはなかったマスクレジスタ、静的丸めモード、ブロードキャストなどの解説をしました。 マスクレジスタは便利に

東北大学は2月22日、東北大学 金属材料研究所計算材料学センターが2018年度より運用を開始する新しいスーパーコンピューティングシステム(スパコン)の愛称を募集すると発表した。 今回、導入される新スパコンは、エネルギー問題を解決するための材料技術の創製や、日本の国際競争力を強化するデバイス・エレクトロニクス材料の開発に活用されることを予定している。 応募の規定としては、愛称は「英単語や英文の略称」での応募であり、日本語和文での応募は不可。同大では、「発音しやすく、新しいスーパーコンピューティングシステムに期待されている効果や特徴などのイメージが伝わりやすい愛称の発案をお願いしたい」とコメントしている。 また、参加資格は国内在住であれば、特になく、応募締め切りは2018年3月7日12時必着としている。応募方法は専用の応募フォームにアクセス、必須項目を入力しての応募となる。 選考方法は、同大が

SC17では、多くの日本の主要な大学や研究機関がブースを設けて研究成果を展示していた。今回は、そうした日本の大学や研究機関のブースの様子を中心に、展示会場の雰囲気をお伝えしたい。なお、今回のSC17では、米国のブースが239と圧倒的に多いが、それに続くのが日本の36であり、次いで中国の14、その他の国は一桁のブース数となっていた。 東北大学のブース SC17における東北大学ブースの様子 筑波大学 JCAHPCのブース 東京大学と共同で運営する「JCAHPC」は、TOP500で国内2位のOakforest-PACSスパコンを擁している。 SC17における筑波大学 JCAHPCのブースの様子 東京大学のブース 東大は伝統的に3つのブースを出している。第1は「The University of Tokyo」と名乗っている平木先生の研究グループのブース、第2は「Institute of Indus

SC17において、「ポストムーア時代のスーパーコンピューティング」と題するパネルディスカッションが行われた。 ポストムーア時代のスーパーコンピューティングのパネル。左端よりモデレータのORNLのJeffrey Vetter氏、続いてMITのMax Shulaker氏、D-WaveのMurray Thom氏、LBNLのGeorge Mikelogiannakis氏、DoEのBill Harrod氏、HPEのAshkan Seyedi氏 量子コンピューティング 最初にポジションを述べたのはD-WaveのMurray Thom氏である。ムーアの法則が終わりに近づいている現在、なぜ、量子コンピューティングが注目されているかというと、大幅なスピードアップが得られる可能性があること、NPハードな問題が解ける、そして従来のシステムでは消費電力が大きな問題であるのに対して量子コンピューティングは消費電力が

LARCは第1世代のトランジスタを使って作られたが、Stretchは開発時期が1～2年遅かったので、第2世代のディフュージョン型のトランジスタを使うことができた。これにより、トランジスタの信頼度が向上し、特性のばらつきも小さくなった。そして、最も高速と言われる「Current Mode Logic」という基本回路を使ったのであるが、ゲートやメモリの速度は当初の想定より遅く、目標クロックサイクルは100nsであったのであるが、各ユニットのクロックは300～600nsと3～6倍遅くなってしまった。なお、Stretchはユニットごとに独立のクロックドメインを持ち、ユニット間のデータ伝送は非同期という設計であった。 結果として、メモリのサイクルタイムは2.1μs、64bitの浮動小数点数の加算は1.5μs、浮動小数点数の乗算は2.7μsで実行できた。LARCの倍精度加算は16μs、倍精度乗算は26