タグ

qiitaとbigqueryに関するnezukuのブックマーク (2)

  • BigQueryで150万円溶かした人の顔 - Qiita

    ※ かなり前の記事ですが、未だに引用されるので一応追記しておきます。タイトルと画像がキャッチーなのはちょっと反省していますが、これを見てBigQuery使うのを躊躇している人は多分あまり内容を読んでいないので気にする必要はないです。自分は当時の会社でも今の会社でも個人でも普通にBigQuery使っていて解析用データなどはBigQueryに入れる設計をよくしています。また、アドベントカレンダーだったのでネタっぽく書きましたが事前に想定できる金額です。 ※ 代役:プロ生ちゃん(暮井 慧) 巷のBigQueryの噂と言えば「とにかく安い」「数億行フルスキャンしても早い」などなど。とりわけ料金に関しては保存しておくだけであれば無視できるほど安く、SQLに不慣れなプロデューサーがクエリを実行しても月数ドルで済むなど、賞賛すべき事例は枚挙に暇がありません。 しかし、使い方によってはかなり大きな金額を使

    BigQueryで150万円溶かした人の顔 - Qiita
  • Fluentd 経由で BigQuery に Schema-less なログを入れる - Qiita

    背景 gumi で提供しているソーシャルゲームは, サーバ/クライアント共に様々なログを Fluentd 経由で各種データストアに入れており, 適宜, 解析を行っている. ログの種別により, Schema-full or Schema-less を選択しているが, 記事では Schema-less なログの取り扱いを話題とする. Schema-less なログの必要性 サーバ/クライアントの開発時から運用時まで, 常に次のような要望がある. 「気軽に適当なフォーマットでログを出力したい」 Schema-full なデータストアを採用する場合, 開発者に次のルールを強いる必要がある. ログ出力前にテーブルのスキーマを定義せよ ログ出力中にテーブルのスキーマを変更するなら, 別テーブルにせよ これらのルールを開発者が守らない場合, Fluentd 側でエラーが発生するため, 開発者はインフラ

    Fluentd 経由で BigQuery に Schema-less なログを入れる - Qiita
  • 1