非同期処理で45%のレイテンシ削減を実現#Nature - Nature Engineering Blog

Natureエンジニアインターン生の後藤です。この記事では、インターン期間中に取り組んだfirequeueの改修についてお話します。 背景 NatureのバックエンドにはNature Remoからメッセージを受け取るエンドポイントがあるのですが、このエンドポイントはメッセージが来るたびに叩かれるので、NatureのAPIサービスの中で最も合計レイテンシとリクエスト数が大きいものとなっています。 エンドポイント毎のリクエスト数と累積時間 詳しくこのAPIのレイテンシの内訳を見てみると、その中でもFirehoseが占有している時間が40%と最も長くなっていました。 APIのレイテンシの内訳 また、Natureではfirehoseへの送信にfirequeueというGo言語のpackageを使用しています。firequeueは、Amazon Kinesis Data Firehoseへのアイテムの

[onesplat]

何のためにレイテンシを削減するのか明確でない。ユーザー体験が改善するの？費用が抑えられるの？イベントドリブンなサーバーのアーキテクチャならほとんど意味なさそうだし

[Songmu]

firequeue便利。ちゃんとバッチで送るようにしたのが偉い。料金的にはバッチにしても確か変わらなかったから僕が作ったときはそこサボってたんだよな。