一般的なコンピュータを使って高速な処理を実現する場合には1つの目的を複数のコンピュータで分散・並列処理することになりますが、この実行基盤の1つが MPI (Message Passing Interface)と呼ばれる仕様・規格で MPICH, Open MPI など複数の実装系が存在しています。 MPI では Task と呼ばれる独立したアドレス空間で動作するプロセスをCPUコア/スレッド毎に生成し、このプロセス間でMPI 標準規格で定義された関数を使ってデータを分割・移動(Message Passing)しながら並列・協調動作を実現しています。
![RPi - Raspberry Pi で High Performance Computing! スパコンを作る方法。 : NETBUFFALO](https://cdn-ak-scissors.b.st-hatena.com/image/square/d0e2466643e57b120ded7ae344269965055f4750/height=288;version=1;width=512/https%3A%2F%2Flivedoor.blogimg.jp%2Fnetbuffalo%2Fimgs%2Ff%2Ff%2Fff552ed3.png)