進化し続けるWSE（Wafer Scale Engine）、大規模AIモデルのトレーニング性能とは――Cerebras社訪問2024【前編】 | gihyo.jp
進化し続けるWSE（Wafer Scale Engine）、大規模AIモデルのトレーニング性能とは ――Cerebras社訪問2024【前編】 Cerebras Systems, Inc.はWSEというシリコンウェハーまるごと1枚を使った巨大なAIプロセッサを独自に開発し、それを使ったAIトレーニング向けのシステムCS-2を販売しているシリコンバレーのスタートアップです。 2024年の3月に最新バージョンのWSE-3が発表されたため、2024年5月、2年ぶりにCerebrasを訪問し、Senior Vice President, Product & StrategyであるAndy Hock氏に取材しました。 本稿ではWSE-3の設計方針や、それを使ったCS-3のクラスタシステムについて紹介します。 写真1 Cerebras Systems, Inc.オフィス Cerebrasシステムの
ウェハースケールCPUの誕生――Cerebrasのクレイジーな挑戦 | gihyo.jp
2019年11月、スパコン（スーパーコンピュータ）のトップカンファレンスであるSC19で、小形のAI専用スパコンがデビューをはたしました。「CS-1」と名付けられたそのマシンは、ウェハースケール、つまり30cmシリコンウェハーを一枚まるごと使った巨大なCPUをもち、その広大な領域に埋め込まれた40万ものコアに、ターゲットのニューラル・ネットワークをそっくり全部マッピングして並列動作させます。 このあまりにもシンプルで、かつ壮大なアイデアをストレートに実現したのはCerebras Systemsというスタートアップ・カンパニーです。 筆者はいくつものスタートアップ、とくにハードウェア・システムを開発する企業を見てきました。Cerebrasについても二年ほど前から何度か訪問して開発状況などを見てきましたが、これほど野心的なスタートアップは滅多にありません。 このCerebrasの技術について
第5回 OSSを職とし、今後のWebの基盤を作る | gihyo.jp
今回のゲストは数々のオープンソースソフトウェア（OSS）で知られる奥一穂さん。通信プロトコルの最先端は今どうなっているのか、お話を伺いました。 Fastly 奥 一穂さんHTTP/2サーバであるH2Oなど通信プロトコルを専門とする職業OSSプログラマー。 IETFでの標準化にも参画する。サイボウズ・ラボ、DeNAを経て、現在はFastlyに勤務。 Twitter：@kazuho URL：http://blog.kazuhooku.com/ LOGO、HyperCardから、H2Oへ 竹馬：自分の周囲で「一緒に働いたことがある人だと誰がすごかった？」というテーマで話すと奥一穂さんの名前が挙がることが多く、一度お話を聞いてみたいと思っていました。まずはこれまでの経歴を伺えますか。 奥：最初にコンピュータを触ったところから始めると、小学生のとき親の都合でオーストラリアの学校に通っていて、授業で触
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
