タグ

ブックマーク / yuzutas0.hatenablog.com (3)

  • BigQueryでSaaSのjsonデータを処理するSQLサンプル集 - 下町柚子黄昏記 by @yuzutas0

    この記事の概要 SaaSのデータをBigQueryに統合することで業務改善を促進できる。 しかし、SaaSのデータの中身を見ると、BigQueryの関数では対応しにくい形式になっていることがある。 そこで、稿では「こういうデータ形式だったらこういうSQLを書く」というサンプル集を掲載する。 目次 この記事の概要 目次 宣伝 実現したいこと SaaSデータの処理方法 SQLサンプル1: 純粋な配列だけのケース SQLサンプル2: 配列内にハッシュマップがあるケース SQLサンプル3: 配列宣言ナシでカンマ区切りのハッシュマップが突如始まるケース SQLサンプル4: 配列とハッシュが入り乱れるケース SQLサンプル5: JSONの中に親子構造があるケース SQLサンプル6: Objectを定義したくなるケース 最強のJSONパースの関数は作れるか jsonデータの処理をどこで行うか 最後に

    BigQueryでSaaSのjsonデータを処理するSQLサンプル集 - 下町柚子黄昏記 by @yuzutas0
    kenzy_n
    kenzy_n 2022/01/04
  • 私の考えた最強のログ&モニタリング設計 - 下町柚子黄昏記 by @yuzutas0

    この記事はRecruit Engineers Advent Calendar 2018 - 8日目の記事です。 注意点 タイトルは煽りです。「新規事業におけるデータエンジニアリングの勘所」の方が正しいかもです。 クオリティというか記事の信頼度は、投稿時間がギリギリになってしまったことから察してもらえるとありがたいです。 エントリーの内容は個人的な見解であり、所属する組織を代表するものではありません。データの取り扱いは非常にセンシティブなトピックでもあるため気軽に発信すべきではないということは重々承知しております。もし誤りや考慮不足だと感じる点があれば、それは全て私個人の力不足によるものですので、どうぞ私個人当てにご指摘のコメントをいただけると幸いです。 もくじ 注意点 もくじ 背景 前提 体制 システム 開発スコープ 機械学習WebAPIは分離 データ基盤設計 全体の設計ポリシー データ

    私の考えた最強のログ&モニタリング設計 - 下町柚子黄昏記 by @yuzutas0
  • 働きながら3週間で応用情報技術者試験に合格した話 - 下町柚子黄昏記 by @yuzutas0

    概要 IPAの応用情報技術者試験(平成26年/秋試験)に合格しました。 仕事をしながら3週間で合格できたので、勉強法など知見を共有します。 平成27年度【春期】【秋期】 応用情報技術者 合格教 (情報処理技術者試験) 作者: 大滝みや子,岡嶋裕史出版社/メーカー: 技術評論社発売日: 2014/12/13メディア: 単行(ソフトカバー)この商品を含むブログ (1件) を見る どのような資格か IPAのサイトでは、対象像を「高度IT人材となるために必要な応用的知識・技能をもち、高度IT人材としての方向性を確立した者」としています。 難易度としては、「ITパスポート」<「基情報技術者」<「応用情報技術者」<「高度区分」(システムアーキテクトや情報セキュリティスペシャリストなど)という位置付けです。 要するに情報技術に関する幅広い知識を持っていることを証明するための資格試験ということです。

    働きながら3週間で応用情報技術者試験に合格した話 - 下町柚子黄昏記 by @yuzutas0
  • 1