どこまでMapReduceするかでアプリケーションの範囲が限定されてくる(フロント、中間、バックエンド) #hadoopModeling
2010-07-26 18:50:50"Hadoop は、大量データの最終処理までやるのに向いてるかは分からない。中間処理にとどめたほうが幸せかも" #hadoopModeling
2010-07-26 18:51:13これ、今お世話になってる教授も同じ事を言ってます。Hadoopの導入の容易さは魅力だとか。 RT @nsiena: 「第一印象: 何が新しいの? 1990's の並列LISP の MR との違いは並列数: 当時の知見を利用可能。 #hadoopmodeling
2010-07-26 18:51:28割りきってどう使うか?はまらないところにはめようとするのはダメ。。。癖が強い、バッチ処理強し。適材適所で。きちんと自分のもっているデータを見極めたうえで。目的と手段がアベコベにならんように。 #hadoopModeling
2010-07-26 18:52:59RT @nsiena: 「MR の特性に合ってるものなら分散性を意識しないですむ。Hadoop に向いてないのに、Hadoop を使いたいがためにアプリを作ってしまうことがあるだろうけど、全くお薦めしない。」 .o(全く同意。適材適所で使い分けるべき。 #hadoopmodeling
2010-07-26 18:53:12アプリケーションに向けてDSLを作るべき。Hadoop/MapReduceのためにDSLをつくるのは本末転倒なのでは #hadoopModeling
2010-07-26 18:54:24#hadoopModeling DSLってふつうアプリごとにつくるもの。対象を限定することによって開発能力を向上させる的な。ただ、hadoopに関していえば、分散システムであることを隠蔽する非機能要件的なDSLがいるかもね。
2010-07-26 18:54:58「DSL。必要だが、アプリに応じて設計されるべきで、MR/Hadoop に対して DSL を設計すべき出はない。対象を限定することで、簡単にかけることが DSL のポイント。例えば、分散システムの難しい部分の隠蔽 (e.g. BOOM)。 #hadoopmodeling
2010-07-26 18:55:24RT @marblejenka: #hadoopModeling DSLってふつうアプリごとにつくるもの。対象を限定することによって開発能力を向上させる的な。ただ、hadoopに関していえば、分散システムであることを隠蔽する非機能要件的なDSLがいるかもね。
2010-07-26 18:56:06なんじゃこりゃ!Datalogがでてきたぞ RT @did2memo: BOOM(USB) http://bit.ly/bGPlZD #hadoopModeling
2010-07-26 18:58:32BooM(UCB) DSL for Hadoop プロトコル、投機実行制御記述できる #hadoopModeling
2010-07-26 18:59:21MR用のDCは消費電力が均一化できないのでよろしくない。GoogleはGmailとかいろいろ処理をちりばめることで均一化している #hadoopModeling
2010-07-26 19:01:38「研究のトレンド。DCでは、消費電力の変動が大きいので、Hadoop ラスタと物理的に対応する専用システムはNG。複数の Hadoop クラスタを混合して実行して平準化すべき。Hadoop では、消費電力の予想は困難。DC向けでないと見られている。 #hadoopmodeling
2010-07-26 19:01:57#hadoopModeling hadoopクラスタの電力モデルが安定しないとか。頑張っていろいろ計測してもモデルができないので、データセンターつくったりするのが難しいとか。
2010-07-26 19:02:12見えますか?問題あったらお知らせください。遅くなって大変申し訳ありません! (#hadoopModeling live at http://ustre.am/hx3O )
2010-07-26 19:03:58Datacenter as a Computing 翻訳が、今月末には、でるはず。 #hadoopmodeling
2010-07-26 19:04:15RT @hiromiarts: DCの1番の問題は消費電力。だけどMapreduce/Hadoopは平準化できないため消費電力観点だとお勧めできない。消費電力は予測できない。 #hadoopmodeling
2010-07-26 19:04:26Google 様はコアな技術は明かさないので、そんな本が出版されたのはもうデータセンターに興味がない証拠 (サードパーティ製に乗り換えてく?) #hadoopModeling
2010-07-26 19:04:36!間違えてるorz RT @kibayos: なんじゃこりゃ!Datalogがでてきたぞ RT @did2memo: BOOM(USB) http://bit.ly/bGPlZD #hadoopModeling
2010-07-26 19:04:37