タグ

kinesisとawsに関するopparaのブックマーク (5)

  • Amazon Kinesis Data StreamsにTwitter検索データを送信する - ヤマムギ

    Kinesis Data Streamsの作成 ストリーム名とシャード数を決定するだけです。 シャードは 「各シャードは最大で 1 MiB/秒および 1000 レコード/秒を取得し、最大 2 MiB/秒を出力します。」 ということですので、1レコード1kbなさそうなレコードを最大100件送信するのでシャードは1つで足りそうです。 シャードエスティメーターで確認しても問題なさそうです。 作成されました。 シャードの数、タグ以外の設定は、サーバー側の暗号化、データ保持期間、シャードレベルメトリクスでした。 デフォルトの24時間、暗号化なし、シャードレベルの追加メトリクスなしにしました。 AWS CLI を使用した基的な Kinesis Data Stream オペレーションの実行の手順でレコードの送信、受信をやってみました。 送信 $ aws kinesis put-record --str

    Amazon Kinesis Data StreamsにTwitter検索データを送信する - ヤマムギ
  • Kinesis+Lambda構成での、処理遅延を監視する | フューチャー技術ブログ

    はじめにフューチャー棚井龍之介です。 ブログでは、サーバレス連載の第1日目として、「Kinesis+Lambda構成」でのメトリクス監視について取り上げます。 データ流入量が徐々に増加する見込みのとき、各リソースのどのメトリクスを重点チェックすべきか。また、メトリクスがリソースの制限にぶつかった場合やアラート検知された場合にどのような対応アクションを取るべきか。KinesisやLambdaのリソース監視設定から得た知見を、ブログに整理しました。 そもそもの「サーバレスって、何が便利なんだっけ?」から整理したい方は、AWS公式のグラレコ解説記事をご覧ください。 今回のサーバレス構成「Amazon Kinesis Data Streamでデータを受け、AWS Lambdaがコンシュームする構成」をブログで想定する環境とします。 AWS家の形で考えるサーバレス設計でも「流入データの連続処

    Kinesis+Lambda構成での、処理遅延を監視する | フューチャー技術ブログ
  • Amazon SES の E メール送信履歴の保存と表示

    Amazon Simple Email Service (Amazon SES) でE メール送信履歴を確認したいと考えています。 解決策 Amazon OpenSearch service と Amazon Kinesis を使用して、Amazon SES の送信履歴を保存および表示します。 Amazon OpenSearch Service ドメインを作成する Amazon SES の送信履歴を保存するには、Amazon OpenSearch Service ドメインを作成します。OpenSearch Service は、パブリックネットワーク、または Amazon Virtual Private Cloud (Amazon VPC) に配置できます。OpenSearch Service ドメインに使用するネットワークのタイプの詳細については、「VPC 対パブリックドメイン」を参照して

    Amazon SES の E メール送信履歴の保存と表示
  • [AWS]kinesisまとめ - Qiita

    AWSのkinesisについて学んだ事をまとめます。 kinesisの概要やベストプラクティス、豆知識取得のためにどうぞ。 1 kinesisとは AWS kinesisには大きく分けて3つの機能があります。 Amazon Kinesis Data Streams Amazon Kinesis Data Firehose どちらもコンピュータから送られてくるログやイベントデータ等の大量のデータを高速に別のサービスに転送するためのサービス。 違いや使い分けについてはコチラのサイトで詳しく解説されていました。 https://dev.classmethod.jp/cloud/aws/difference-between-kinesis-streams-and-kinesis-firehose/ 一言で言うなら Amazon Kinesis Data Streamsのほうが速い。 Amazon

    [AWS]kinesisまとめ - Qiita
  • リアルタイムログ出力をサポートしたCloudFrontを試してみた | DevelopersIO

    AWSチームのすずきです。 Amazon CloudFront、リアルタイムなアクセスログ出力をサポートするアップデートがありました。 Amazon CloudFront announces real-time logs Kinesis Data Streams へのログ出力設定と、アクセスログが参照可能になるまでのタイムラグを確認する機会がありましたので、紹介させていただきます。 AWS設定 Kinesis バージニア(us-east-1)リージョンに、Kinesis Data Stream を設置しました。 今回、シャード数は「1」で設定しました。 ログが発生量が多くスロットルが発生する場合には、シャード数を適量まで追加してご利用ください。 CloudFrontダッシュボードに「Logs」が追加されました。 「Real-time log configurations」の「Create

    リアルタイムログ出力をサポートしたCloudFrontを試してみた | DevelopersIO
  • 1