米グーグル(Google)がスーパーコンピュータに対応した深層学習(ディープラーニング)フレームワーク「Mesh TensorFlow」の開発を進めている。「スパコンを使うことで、パラメータの数が数十億個に達するような巨大な機械学習モデルの開発が可能になる」。開発メンバーであるノーム・シャイザー(Noam Shazeer)氏はそう説明する。 Mesh TensorFlowの詳細は、2018年10月11日に米フェイスブック(Facebook)本社で開かれた深層学習の大規模勉強会「BayLearn 2018」のセッション「Deep Learning for Supercomputers」で発表された。Mesh TensorFlowは「TensorFlow 2.0」に含まれ、オープンソースソフトウエア(OSS)として公開される予定だ。
![スパコン対応の「TensorFlow」、グーグルがモデル並列で開発 | 日経 xTECH(クロステック)](https://cdn-ak-scissors.b.st-hatena.com/image/square/3a7663f2ba289d2ec056a042d363b943f7e5448e/height=288;version=1;width=512/https%3A%2F%2Fxtech.nikkei.com%2Fatcl%2Fnxt%2Fcolumn%2F18%2F00141%2F102800030%2Ftopm.jpg%3F20220512)