ウェハースケールCPUの誕生――Cerebrasのクレイジーな挑戦 | gihyo.jp

2019年11月、スパコン（スーパーコンピュータ）のトップカンファレンスであるSC19で、小形のAI専用スパコンがデビューをはたしました。「⁠CS-1」と名付けられたそのマシンは、ウェハースケール、つまり30cmシリコンウェハーを一枚まるごと使った巨大なCPUをもち、その広大な領域に埋め込まれた40万ものコアに、ターゲットのニューラル・ネットワークをそっくり全部マッピングして並列動作させます。 このあまりにもシンプルで、かつ壮大なアイデアをストレートに実現したのはCerebras Systemsというスタートアップ・カンパニーです。 筆者はいくつものスタートアップ、とくにハードウェア・システムを開発する企業を見てきました。Cerebrasについても二年ほど前から何度か訪問して開発状況などを見てきましたが、これほど野心的なスタートアップは滅多にありません。 このCerebrasの技術について

[belgianbeer]

こんな手があったとは。すごく面白い技術

[marmot1123]

ウェハー内でクロックが遅れたりしないのかな？（まだ全部読んでない）

[stealthinu]

とても良い記事。Cerebrasすごい。『人々は並列度の高いプログラムをうまく作る方法を突き止めることができなかった。しかしニューラルネットワークはそれをほとんどタダで我々にくれた』

[annoy]

そっかー。わざわざバラバラに切り離す必要無いもんな。

[denqueue]

ウェハーを丸ごと使ったCPU、視覚的なインパクトが凄いな。ディープラーニングのワークロードだと逆伝搬のための帯域幅&遅延が重要で大規模チップ実装がメリットになるということなのかな？

[TakamoriTarou]

スパコンが特別な部品の集積だった時代から一度PCをたくさん集めた物体に変わり、再び再定義がされて最近また特別な計算機に戻りつつあるような気がする。よい傾向。