京都研究所・TechLabの田中です。 マイクロアドでは、主にエンジニア以外のメンバーが広告配信実績などの各種データにアクセスする際にRedashを利用しています。 Redashから接続しているデータソースには、以前このブログでも紹介した分析用Hadoopクラスタ*1に加えて、MySQLのレプリやBigQueryなどがあります。 これらの異なるデータソースに対してRedashからは同じインターフェースでアクセスでき、手軽にデータの抽出や可視化・分析などが可能です。 また、クエリで抽出したデータを利用して、Redash上にダッシュボードを作成することもできます。 本稿では、そんなRedashの活用方法の1つとして、 スケジューリング機能とキャッシュ機能を利用した簡易的なデータパイプラインを使ってダッシュボードを作成する例をご紹介します。 なお、この記事で扱うRedashの説明はバージョンv1
概要 ミラティブではデータ分析用ツールとしてRedashのSaaS(redash.io)を使用している。(Lookerと併用) 2021年11月末で redash.io のサービスが終了する。そのため、自前のGCP環境にRedashを移行した。 Redash謹製の移行ツールが提供されているが、いくつかハマったポイントがあった。 本記事では、GCP環境への移行手順・移行時のハマリポイント・移行後にあると便利なものを紹介する。 はじめに 初めまして、ミラティブでデータ分析基盤を担当している芝尾です。データ分析チームは5名のチームになっており、日々ユーザーの皆様のデータを分析してサービスの向上に努めています。今回はミラティブで使用していたデータ分析可視化ツールの移行を行いましたのでそのやり方を共有します。 背景 Redash hosted サービスが終了します。この記事 によると 2021/11
Redash遅い・重いとは言わせない! 高速ダッシュボードで快適なデータ分析ライフを送るためのTipsデータ分析BigQueryデータ可視化BIredash はじめに 言わずと知れたダッシュボードツールのRedash。複数のデータソースに対して、クエリを発行する事で自由な切り口でデータを可視化する事ができます。また、フィルタ機能を使った絞り込みにも対応しているため、定点的な観測以外にもクロス集計程度なら、これ1つでこなせてしまう優れものです。 私個人のキャリアでは、ダッシュボードツールとして、DOMO/Tableau/GoogleDataStudio(GAメインなこれもオススメです)など使ってきましたが、Redashが1番取っつきやすく、SQLが分かれば手軽に利用できて好みです。 意外と根が深い?Redash重い問題 ネット上で記事を見ていると、"データソースに対して、クエリを発行する"図
こんにちは。Platform チームの飯迫 (@minato128)です。 CADDi ではこれまで Hosted Redash(app.redash.io) を利用していたのですが、残念ながら 2021/11/30 に End of Life になるので、10 月末に Self-Hosted Redash 環境を構築して移行しました。今回はそのときやったことを紹介します。 移行の流れ 新しい Redash 環境を v10 で構築する 公式の移行ツールを利用してデータ移行する 監視を追加する 新しい Redash 環境を v10 で構築する まず、移行ツールは移行先として v10 を前提としているので、新しい環境は v10 である必要があります。ちなみに、v10 は 10/2 にリリースされた現時点の最新版です。 v10 であればどんな方法で構築しても問題ないのですが、今回は社内用 GKE
こんにちは。DX事業部の花村(@naomasabit)です。先日の投稿でユーザーの利用状況確認のためにAWSのQuickSightを利用していると書きましたが、並行して分析ツールのRedashも利用しています。Redashの良い点としてクエリベースでの分析、監視アクション、スプレッドシートとのデータ連携が存在します。 SaaSチームの運営において、これらを活用したユースケースについて伝えていきます。 アドホックな分析クエリの共有によるコミュニケーション効率化 監視アクション設定によりデータ不整合にすぐ気づける体制整備 複数チームからのデータソース連携によるヘルススコアダッシュボード作成 最後に - Redashと他の分析ダッシュボードツールの併用について アドホックな分析クエリの共有によるコミュニケーション効率化 Redashでは、まずクエリベースでアドホックな分析クエリの共有が可能です。
お知らせ 2024年9月1日より、connpassではスクレイピングを禁止し、利用規約に明記しました。以降の情報取得にはconnpass APIをご利用ください。APIご利用についてはヘルプページをご確認ください。 新機能 「QRコード読み取りによる出席機能」をリリースしました。事前に入場受付が必要な場合や、受付時に参加枠などによって個別の誘導が必要な場合にご利用ください。詳しくは こちら をご覧ください。 新機能 connpass APIに新しく、ユーザーのプロフィールを取得できるユーザーAPIを追加しました。APIリファレンスは こちら を、またAPI利用希望の方は こちら をご覧ください。
久々に個人開発のはなしです. 昨年(2020)の話になりますが, 自分が気になる世の中のニュース(野球とかグルメとかいろいろ)だけをいい感じに集めてまとめて読みたい その中でも特に⚾, 速報とかいい感じに通知させたい ...という目的でデータ収集と通知の仕組みを自分用のプロダクトとして構築・運用をスタートしました. shinyorke.hatenablog.com 今年も上記のプロダクトをいい感じに運用しているのですが, 毎日見るのにGUIが欲しくなってきた 複数のデータソース(BigQuery, 生のCSV/JSON, Spreadsheet, etc...)を一つにまとめて見たい 毎日Slackなどに通知するようなモノもほしい という要望が出てきたので, これらの要望に応えるためRedashを使うことにしました. redash.io このエントリーでは, 個人開発に使える無料データ可視
目次 ワーカーノードの作成 DigdagとEmbulkのDockerビルド KubernetesにDigdag/Embulkをデプロイ Redashの導入 まとめ Kubernetes上に分析環境を構築する機会があったのでどのように構築したかを紹介します。同じような構成でKubernetes上で構築するのは3回目になったので構築方法も洗練されてきました。構成は以下のようになっています。 MySQL(RDS): サービスのデータベース。ここのテーブルからBigQueryにEmbulkでデータをエクスポートします。 PostgreSQL(RDS): Digdagのデータベース。今回新たにつくりました。 Digdag: データベースのエクスポートなどを実行するタスクスケジューラ。失敗したときにリトライもできます。 Embulk: プラグインを使ってデータベースをMySQLからBigQueryにエ
こんにちは、タイミーSREチームの宮城です。 今回は弊社がRedashをFargateで構築/運用している話を紹介します。 背景 タイミーでは、CSやセールスのKPI策定から毎月の事業数値に至るまで、Redashが様々な用途で活用されています。 Fargateで構築する以前はEC2上のdocker-composeで運用されていましたが、以下の課題がありました。 オートスケールできないため、クエリが詰まってCPUが100%になってサービスが停止する。 その度slack上から再起動していた セットアップしたエンジニアが退社しており、インフラ構成図やノウハウの共有、IaCによる管理ができていない。 クエリやダッシュボードなどのデータの定期的なバックアップができていない。 v7系からv8系へのアップデートがしたいが、アップデートによる影響範囲がわからず恐怖感がある。 事業に大きく関わるサービスなの
Re:dash では通常複数のデータソースの結果を組み合わせることはできません。 例えばBigQueryに複数のDBやログなどを集約した後に BigQuery データソースを利用することで実現することは可能ですが、 もっと手軽に複数のデータソースを組み合わせたい場合に Python データソースを利用することで 実現することができます。 Python データソースの導入設定 Pythonデータソースはデフォルトでは無効になっています。 環境変数 REDASH_ADDITIONAL_QUERY_RUNNERSP に redash.query_runner.python を設定しておくことで有効になります。 Docker for Mac 利用時なら $ docker-compose up -e REDASH_ADDITIONAL_QUERY_RUNNERS="redash.query_runn
社内で Redash の話をしていて「API key はクエリ単位に存在する」という仕様があまり知られていなかったので,まとめておこうと思う. API Key の種類 Redash には2種類の API Key が存在する.恐らく Query API Key の存在を知らない人が多いのではないかなと思う. User API Key Query API Key ドキュメントにも書いてある通り,できる限り Query API Key を使うべきと書いてある. help.redash.io PostgreSQL で確認してみる Redash ハンズオンで構築した PostgreSQL コンテナを使って,実際にクエリを投げてみる. github.com 以下のように queries テーブルのデータを確認すると,クエリごとに api_key が存在していることがわかる. / # psql -U p
はじめまして。 dely, Inc. の @sakura です。 本記事では、Redash の使用状況及び便利なTipsを3つ紹介します。 この記事はBIツール研究所 Advent Calendar 2019 - Qiitaの19日目の記事です。 社内のBIツール使用状況 誰が使用するか どのくらいのペースでクエリが増えるか Redashのここが便利 クエリパラメータ ダッシュボード クエリのお気に入り登録 まとめ さいごに 社内のBIツール使用状況 Redash公式のトップページ 社内のBIツールは主に Redash を使用しています。 バージョンは7系を使用しています。 過去には Metabase と併用していたこともあるのですが、同じ用途のものが複数あることで「どんな時にどっちを使用するの?」など利用者の混乱を招いてしまっていたため現在は Redash のみを使用しています。 誰が使
こんにちは。@katsuhisa__です。 本記事は、「Redash Advent Calendar 2017」の12/23分です。 Redash Meetup #0 に参加してきた 先日、Redash Meetup #0 に参加してきました。 当日は、kakakakakkuさんが作成されたredash-hands-onをもとにハンズオンが進行しました。 講師は、kakakakakkuさんと、ariarijpさんの2名で、1テーブルあたり5名の参加者に対して講師が1人ついてくださいました。非常に贅沢な時間でした。 本記事では、Redash Meetup #0で学んだRedashの良さをご紹介しようと思います。 改めてRedashとは Redashは、クエリさえ書けばグラフなどを用いたビジュアライズがかんたんにできるOSSです。また、作成したグラフをダッシュボードとしてまとめる機能もあり、デ
こんにちは。インフラエンジニアの永井(shnagai)です。 今回は、ここ数ヶ月で進めていたコネヒト社でのデータ民主化について書こうと思います。 ※技術的な話はあまりなく、社内向けプレゼンに使った資料をベースにした内容です。 コネヒト社は、ママリというママ向けのアプリとWebを運営しており、 もちろん様々なデータを持っているのですが、データ活用に関して下記のような課題を抱えていました。 データに関する課題 1. データが色々なところに存在している BigQuery,Mixpanel,GA,RDS等様々な場所にデータが点在しているので一望する事が難しく、どこに何があるのかも一部の人しかわからない。 tableau経由で様々なデータソースにアクセス出来る環境はありましたが、その一部のメンバにデータ抽出を依頼する事がコストとなっていました。 2. エンジニアやデータに詳しいディレクターに頼まない
ゲームコミュニティ事業部のデータエンジニア(β版)の池田です。 この記事は、Tech KAYAC Advent Calendar 2019 の7日目です。 今回もredash周りの話で、Lobiでの分析事例の話をしていきたいと思います。 (本ブログではredashおじさん化していますね。 ) Lobiでの分析環境の概要 ゲームコミュニティ事業部では主要サービスとして Lobi を開発・運営しています。 現在のLobiにおける分析環境は、以下の図のようになっています。 分析環境の図 アプリケーションが行動ログやアクセスログを出力し、それをFluentdやKinesis Data Firehoseを使ってS3バケットへ転送しています。その後@fujiwaraさんのrinを使ってRedshiftにロードしています。この周辺に関しては、ソーシャルゲーム事業部での記事と同様ですので、詳しくはそちらを
Redashを使っていて特に便利だと感じるのがアラート機能。うちの会社では、自社サービスの異常値検知のためにアラート機能を多用している。 しかし、アラートの設定画面にある Rearm Seconds という項目は、公式サイトの説明が少なく、どのような動きをするのかよくわからなかった。そこで、実際にコードを見て仕様を確かめることにした。 2019/02/13現在、アラートを制御するコードは以下にまとまっている。 github.com @celery.task(name="redash.tasks.check_alerts_for_query", time_limit=300, soft_time_limit=240) def check_alerts_for_query(query_id): logger.debug("Checking query %d for alerts", query
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く