タグ

apacheとApacheに関するgirledのブックマーク (9)

  • Apache Kafka

    Apache Kafka More than 80% of all Fortune 100 companies trust, and use Kafka. Apache Kafka is an open-source distributed event streaming platform used by thousands of companies for high-performance data pipelines, streaming analytics, data integration, and mission-critical applications. Manufacturing 10 out of 10 Banks 7 out of 10 Insurance 10 out of 10 Telecom 8 out of 10 10/10 Largest insurance

    Apache Kafka
    girled
    girled 2017/09/05
    Kafkaのプロダクトロゴ見るたびにモヤモヤが抑え切れない。。いや、コスタリカ国立博物館。。w
  • Workflow Engines Meetup #1 に参加してきた #wfemeetup - 試纏

    Workflow Engines Meetup #1 - connpass 2017/03/09 Workflow Engines Meetup #1 #wfemeetup - Togetterまとめ ビッグデータ基盤周りの業務に携わっている者にとって『ワークフローエンジン』は非常に重要な位置を占める"関心事"です。OSSから商用のものまでこの分野のツールやプロダクトは数多く存在し、多かれ少なかれ皆さん苦労しながらもそれぞれの利用ノウハウを蓄積している状況の様です。そんな中、そのものズバリの勉強会が企画されていたので速攻で申し込み、この日参加してきました。 イントロ セッション内容 Digdag:Digdagの特徴とQuick Start Jenkins:Jenkins 2.0 Pipeline & Blue Ocean Luigi:Luigiを使っている話 Azkaban:Azkaban

    Workflow Engines Meetup #1 に参加してきた #wfemeetup - 試纏
    girled
    girled 2017/03/10
    繰り上がらず参加できなかった昨日のワークフロー勉強会のレポ。digdag ui そろそろ触り始めようかなあ。まずはnpm環境作らなくては。。
  • Hiveでパーティションを利用する – OpenGroove

    hiveにパーティションを導入すれば、パーツを指定してクエリを発行できるので、余計な読み込みを抑えて効率よく処理することができる。…ということで、チャチャッと演習(といいつつ長い)。 テーブル作成。 以下太字で示しているパーティションのkeyは、データに含まれていない値でかまわない。 hive> CREATE TABLE sales( id INT, shop_id STRING, date_id STRING ) PARTITIONED BY(dt STRING) ← パーティション用のkeyを指定。 ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' LINES TERMINATED BY '\n'; hive> LOAD DATA LOCAL INPATH '/home/hiveuser/20130101.tsv' OVERWRITE INT

    girled
    girled 2015/03/03
    それなりのaccess_logをHiveでselectするとクエリが止まったりDatanode死んだりしてて原因よくわかんなかったけど適度にパーティション切ればいけそうな気がしたのっ今日試す!
  • Fluentular: a Fluentd regular expression editor

    Regular Expression Test String Custom Time Format (See also ruby document; strptime) Example (Apache) Regular expression: ^(?<host>[^ ]*) [^ ]* (?<user>[^ ]*) \[(?<time>[^\]]*)\] "(?<method>\S+)(?: +(?<path>[^ ]*) +\S*)?" (?<code>[^ ]*) (?<size>[^ ]*)(?: "(?<referer>[^\"]*)" "(?<agent>[^\"]*)")?$ Time Format: %d/%b/%Y:%H:%M:%S %z

    girled
    girled 2014/12/11
    化石みたいなWebサーバのログも拾いたいとかいうからフォーマットを正規表現で書くのめんどくせと思ってたらこんな素敵なサイトが。config書式まで出力してくれて何たる。
  • LTSV FAQ - LTSV って何? どういうところが良いの? - naoyaのはてなダイアリー

    LTSV って何? Labeled Tab-Separated Values という、テキストのフォーマットの仕様です。CSV や TSV や JSON そのほかと同じ、テキストデータのフォーマット名。主にログ、特に httpd のアクセスログなどに適用すると便利です。 仕様は http://ltsv.org にまとまっています。随時更新中です。 LTSV は単なるログのフォーマットであって、それ以上でもそれ以下でもありません。 LTSV ってタブ区切りで値に名前を付けただけのもの? はい、そうです。 これが 127.0.0.1 - frank [10/Oct/2000:13:55:36 -0700] "GET /apache_pb.gif HTTP/1.0" 200 2326 "http://www.example.com/start.html" "Mozilla/4.08 [en] (

    LTSV FAQ - LTSV って何? どういうところが良いの? - naoyaのはてなダイアリー
    girled
    girled 2013/02/12
    わかりやすかった。わかりやすい話だからこそこれ以前からこの仕様で自前のフレームワークとか持ってるとこ多そうだよなー。既成事実を改めて仕様にした感じ。
  • インストールするだけ! お手軽サイト高速化ツールGoogle mod_pagespeedはスゴかった | 初代編集長ブログ―安田英久

    どれぐらいスゴいかというと、「サーバーにインストールするだけで、あとは設定ファイルをちょちょっといじれば、かなり高速化できちゃう」というぐらいスゴいのです。しかも、どんなサイトでも、どんなCMSを使っていても「インストールするだけ」。 Webサイトを高速化すると、ユーザーに優しいし、場合によっては検索結果での順位にも良い影響が出るかもしれない……それはわかっていても、なかなか格的にサイトを高速化するのは難しいものです。 サーバー側の高速化に加えて、HTMLのつくりや画像のファイルサイズ最適化、さらにはCSSを調整しての画像スプライト化やCSS/JSファイルの結合・最適化によるブラウザとサーバーの通信数削減などなど、実はやらなきゃいけないことがたくさん。 グーグルの提供するmod_pagespeedは、そうしたことの、かなりの部分を自動的に行うものです。 mod_pagespeedはこん

    インストールするだけ! お手軽サイト高速化ツールGoogle mod_pagespeedはスゴかった | 初代編集長ブログ―安田英久
    girled
    girled 2012/11/28
    コンテンツ自体の運用上、なかなか最適化しにくいサイトとかにはかなり効果的な改善対応になりそうだなー。
  • #isucon2 で優勝してきました - 酒日記 はてな支店

    なんでもありのいい感じにスピードアップコンテスト ISUCON が 2 になって帰ってきたので、参加して優勝を勝ち取ってきました。 まとめ的なものはこちらから livedoor Techブログ : ISUCON チームメンバーのblogも併せてご覧ください。 おそらくはそれさえも平凡な日々: #isucon2 で連覇させてもらってきました Redis布教活動報告 ISUCON 編 - unknownplace.org 今回は前回の ISUCON 優勝メンバーのひとり @sugyan が転職して出題側に回ってしまったので、@typester を招聘してチーム編成。@songmu と共に3人でチーム「fujiwara組」として再参戦です。 以下、作業用IRCのログからふりかえりますと…… 11:39:29 <typester> とりあえずrecent_soldはキャッシュってのはまずやることか

    #isucon2 で優勝してきました - 酒日記 はてな支店
    girled
    girled 2012/11/04
    チューニングって時間かけてじっくり、って思いがちだけど確認すべきところを順番に確認していけば短時間にもかなりの問題をクリアできるもんなんだな。よろしく俺にちゅーうにーん。
  • 運用ノウハウ - 理想未来ってなんやねん

    Rails勉強会のセッション参加者の中で出た話です。 抜けている部分も多々ありますし、他にも色んな運用があると思うので、コメントいただけると幸いです。 ログローテート ログローテートはlogrotateで普通に行っている。 HUPシグナルを送る必要がある。 ログはパフォーマンスが落ちるのでFatalだけとる? アクセス解析は外に出せるならGoogle Analyticsを使うとか Webサーバー Rubyで使うのはMongrel。 FastCGIは高負荷時に不安定。 Thinとかあるけど、実績が不明なので怖くて使えない。 バランシング 高いけどアプライアンスを使う。安心。 +---------+ | Client | 負荷テストツールはここで動かす。 +----+----+ | +----+----+ | Router | +----+----+ | +----+----+ |F5 BIG

    運用ノウハウ - 理想未来ってなんやねん
    girled
    girled 2011/04/28
    WebLoad使って負荷テストやってるところ多いのかなあ。シナリオ作るのさえ時間があればテストツール使ったほうが状況データ取りやすそう。MySQL Proxyでマスタスレーブ使い分けはちょっと試してみたいなあ。スレーブが10台
  • Javaの危機 Oracleに反発してApacheがコミュニティーを脱退 : SIerブログ

    1 :月下灯里 ◆67Iij11ij122: 2010/12/13(月) 18:31:56.66 ID:uw021Mf90 ASFは11月、OracleがApache Harmonyにテストキットライセンス(TCK)を提供しないの はJCPの規則に反しており、権利が認められないのであればJCPを脱退すると警告。ほかの JCPメンバーにもJava SE 7仕様に反対票を入れることでOracleに抗議するよう呼び掛けて いた。だが、投票の結果12対3の圧倒的多数で仕様が承認されたため、辞任を発表した。 Oacleのメッシンガー氏は公式ブログで「Apacheには立場を考え直してJava推進の プロセスに引き続き参加するよう勧める。ASFや多くのオープンソースプロジェクトの 参加は、Javaエコシステム全体にとって重要だ」としている。ただし、この問題の発端と なっているTCKについては何も触れてい

    girled
    girled 2010/12/16
    いまだにMySQLやJavaのツールなんかにOracleのロゴが入ってるのみてもまだ馴染まないなあ。Javaの開発が止まったらやっぱりJavaの利用って減ってくるのかなあ。Java6あたりで延々と残っていったりしないもんか。
  • 1