TensorFlow ServingとはTensorFlowのモデルをマネージしてくれるサーバです。 モデルを処理するサーバ機能に加えて、複数モデルの管理、バージョンの管理、新たなモデルの自動ロード等を提供してくれます。 通信はgRPCやRESTで行うため、言語を問わずこれを立ち上げるだけで機械学習の恩恵を受けられる優れものです。 TensorFlow公式で、Google社内でも使っているっぽいのである程度の安心感があります。 モデルの用意 まずTensorFlowのモデルを用意します。 今回のチュートリアルにあるFashion MNISTを使います。 https://www.tensorflow.org/tutorials/keras/basic_classification Fashion MNISTは28*28のサイズに洋服の絵が描かれたデータセットです。 10種類のカテゴリからなり