イベントログ収集ツール #fluent 周りの最近の話題

話題沸騰中の新しいログ収集ツール「fluent」のまとめです。 "It's like syslogd, but uses JSON for log messages" "イベントログ収集ツール fluent リリース!" http://d.hatena.ne.jp/viver/20110929/p1 続きを読む
13
前へ 1 2 ・・ 8 次へ
Kazuki Ohta @kzk_mover

@tagomoris ほいほいw ひとまず input 側は直しちゃいます

2011-09-29 01:10:30
Kazuki Ohta @kzk_mover

out_hdfsはどうすっかなあ. libhdfs (地雷臭…) / jruby (msgpack-jrubyが…) / hoop (performance…)

2011-09-29 01:16:13
Sadayuki Furuhashi @frsyuki

そうか out_file の path パラメータで、#{tag} みたいな指定ができるといいな

2011-09-29 01:22:26
Kazuki Ohta @kzk_mover

pluginの開発はこんな感じでやってる > FLUENT_PLUGIN=$SCRIBE_PLUGIN_DIR/lib/fluent/plugin/ ./bin/fluentd --config $SCRIBE_PLUGIN_DIR/example.conf -v -v -v

2011-09-29 01:24:21
Sadayuki Furuhashi @frsyuki

fluent-plugin-XXX の名前争奪バトルが勃発している。

2011-09-29 01:31:03
Kazuki Ohta @kzk_mover

@repeatedly 自動でcollection作らないオプション(デフォルトは常に作成), capped collection使うか使わないかオプション、パフォーマンス測定、etc.

2011-09-29 01:31:59
チーフ データサイエンティスト@トレジャ @doryokujin

@kzk_mover 了解w Redisではもっと色々な使い道ができそうなはずなんですよ!そこは是非とも #fluent で実現させたい!

2011-09-29 01:32:43
Kazuki Ohta @kzk_mover

@repeatedly あと、接続が切れたときの再トライ周り, などなどwww 言うだけ言ってみたw

2011-09-29 01:34:06
Kazuki Ohta @kzk_mover

fluent-plugin-kzk は俺が死守する

2011-09-29 01:35:18
チーフ データサイエンティスト@トレジャ @doryokujin

僕もまずは fluent-plugin-doryokujin を。RT @kzk_mover: fluent-plugin-kzk は俺が死守する

2011-09-29 01:35:56
チーフ データサイエンティスト@トレジャ @doryokujin

マヂですか…何から着手すれば…RT @voluntas: 米Basho、分散Key-Valueストア型データベースシステム「Riak 1.0」を発表 - SourceForge.JP Magazine : オープンソースの話題満載: http://t.co/qZWLMuVn

2011-09-29 01:39:26
Kazuki Ohta @kzk_mover

@repeatedly 一回mongoを落としてみてreconnectionをmongo-rbでしてくれてそうなら楽だねー

2011-09-29 01:41:10
枇々木聖@片付け中 @hibiki_hijiri

@repeatedly @kzk_mover CappedCollectionにしたいつもりだったけど既にコレクションがあって失敗する場合のハンドリングとかは・・・

2011-09-29 01:41:30
Sadayuki Furuhashi @frsyuki

ログ転送のプラグイン(out_stream)は、writeのたびにconnectしてsendしてcoleusしてます。バッファリングしているので、connectのオーバーヘッドはそれほど気にならないかなーと。

2011-09-29 01:44:14
枇々木聖@片付け中 @hibiki_hijiri

Gremlinに接続するプロトコルの仕様ってどこにあるんだろ。Rexsterのはすぐ見つかるからそっち使えということだろうか

2011-09-29 01:47:27
枇々木聖@片付け中 @hibiki_hijiri

rexsterの犬が不細工すぎる。Gremlinはいいデザインなのに

2011-09-29 01:48:27
チーフ データサイエンティスト@トレジャ @doryokujin

@bibrost StreamingでGraphで何とかというよりも、Streaming(Realtime) Recommendationといった裏ではGraphを使いつつも表では具体的なロジック結果をどんどん流していくような形になると思うんですよねぇ。

2011-09-29 01:50:49
チーフ データサイエンティスト@トレジャ @doryokujin

@bibrost そういう意味でGraph系は一枚レベル上のソリューションですねぇ…ビジネスになりますよー(・∀・)ニヤニヤ

2011-09-29 01:51:18
枇々木聖@片付け中 @hibiki_hijiri

@doryokujin Graphは素材(しかも扱いにくい)なので、料理するためのツールも容易していかないと厳しいですねえ。裏でIndex生成するためのEventを流したり

2011-09-29 01:54:34
前へ 1 2 ・・ 8 次へ