米Amazon Web Services(AWS)はこのほど、音声アシスタント「Amazon Alexa」のクラウドサーバ側の処理の多くを、GPU処理から独自チップによる処理に切り替えたと発表した。 AmazonはAlexaからの応答のTTS(Text-to-Speech)処理をサーバに搭載したGPUを利用する形で開発し、そのままGPUを利用してきた。しかし開発チームは利用者に不自然さを感じさせないために、そしてサーバの計算コストを抑えるために独自開発の専用チップによる処理に切り替えることを決めた。 AWSによると、Alexaのサーバ側の処理をGPUから独自開発の「AWS Inferentia」に切り替えたところ、処理の遅延(レイテンシ)が25%短くなり、サーバのコストを30%削減できたとしている。開発チームは、遅延を短縮できたことで、今後より複雑なアルゴリズムを導入し、品質の高いサービス
![AWS、Alexaのクラウド処理をGPUから独自チップに切り替え 高速化でサーバコストを大幅削減](https://cdn-ak-scissors.b.st-hatena.com/image/square/cf4250474687a4f5cfb8622fc6be8dd292cf3ec1/height=288;version=1;width=512/https%3A%2F%2Fimage.itmedia.co.jp%2Fnews%2Farticles%2F2011%2F18%2Fcover_news119.jpg)