fluentd elasticsearch 送信と受信でログ行数に差異がある時 - Qiita
かなり、感覚的な表現で申し訳ないですが参考程度に。。。。orz fluent plugin elasticsearch で detached forwarding server とかゆー送信サーバでエラーが出て retryとか勝手に何回かされると ログが重複する。。。orz 300万行ぐらい送って、elasticsearch側では330万行ぐらいになってた。。。orz fuluentdのバッファメモリをバッファファイルへ変更 ・送信先のバッファファイルが3個以上になったら送信を待つ ・送信元のバッファファイルが2個を超えたら処理を待つ みたいな監視をこさてゆっくりゆっくりと送ってあげる。 送信元のfluentDのchank limitあたりを調整 300万行を90分かけて送ってあげたらドンピシャだったぜ。 【追記】 fluentDが買ってにリスタートしやがった。 しかも送信行数と受信行数に
Fluentular: a Fluentd regular expression editor
Regular Expression Test String Custom Time Format (See also ruby document; strptime) Example (Apache) Regular expression: ^(?<host>[^ ]*) [^ ]* (?<user>[^ ]*) \[(?<time>[^\]]*)\] "(?<method>\S+)(?: +(?<path>[^ ]*) +\S*)?" (?<code>[^ ]*) (?<size>[^ ]*)(?: "(?<referer>[^\"]*)" "(?<agent>[^\"]*)")?$ Time Format: %d/%b/%Y:%H:%M:%S %z
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
