MapR 2.0 と CDH と Codec

MapR 2.0を調べてて、Codecの話になって、CDHの話になりました。
1
Takuya UESHIN @ueshin

MapR 2.0beta を試してみよう。

2012-07-26 01:10:34
Takuya UESHIN @ueshin

だがリソースが厳しい。

2012-07-26 01:11:04
Takuya UESHIN @ueshin

MapR 2.0beta の mapr-hbase-internal のバージョン表記が 2.0.0.14305.BETA.v0.94.0-1 になってる!

2012-07-26 01:31:37
Takuya UESHIN @ueshin

Hadoopはmapr-jobtrackerとかmapr-tasktrackerってことはYARNではないということか。まぁ、まぁ。

2012-07-26 01:34:12
Takuya UESHIN @ueshin

ぐっじょぶ! $ cat /opt/mapr/hbase/hbaseversion 0.94.0

2012-07-26 01:37:23
Takuya UESHIN @ueshin

MapR 2.0beta がHBase 0.94ならMapRだろうなぁ。Coprocessor使わないなら今のMapR 1系でも充分。平常状態なら普通に安定してるし、wardenがついてるのでRegionServerがダウンしても復活させてくれるし。(超楽観的観測

2012-07-26 01:56:32
Takuya UESHIN @ueshin

うーむ。WebUIにログインできない。。。

2012-07-26 02:28:27
Takuya UESHIN @ueshin

MapRの各プロセスの実行ユーザーがrootからmaprに変わったことにより /etc/shadow が見えなくなってて認証失敗してましたとさ。 “@ueshin: うーむ。WebUIにログインできない。。。”

2012-07-26 03:07:47
Takuya UESHIN @ueshin

WebUIの見た目は変わってないな。

2012-07-26 03:09:13
Takuya UESHIN @ueshin

maprfsもユーザーディレクトリができてる。本家Hadoopと同じく /user の下。

2012-07-27 01:03:38
Takuya UESHIN @ueshin

fs.mapr.working.dir ってので設定可能らしい。

2012-07-27 01:14:49
Takuya UESHIN @ueshin

あー、MapR 2.0beta はそのままではSnappy使えないのか。どうすればいいんだろ。

2012-07-27 01:20:14
Takuya UESHIN @ueshin

適当に libsnappy を持ってくればMapRでもSnappyが使えるようにCodecの設定とかしてあるんだから一緒にディストリビューションに含めてほしいな〜。

2012-07-27 02:32:09
Takuya UESHIN @ueshin

MapR 2.0beta の話です。> “@ueshin: 適当に libsnappy を持ってくればMapRでもSnappyが使えるようにCodecの設定とかしてあるんだから一緒にディストリビューションに含めてほしいな〜。”

2012-07-27 02:32:34
Takuya UESHIN @ueshin

ライセンスの問題とかなのかな。 ちなみにCDH4には入ってる。

2012-07-27 02:33:45
Tatsuo Kawasαki @kernel023

CDH3(u2以降だっけ?)にも入ってますね。Apacheライセンスのはずなので、ライセンス的には問題なさそうですが。 @ueshin: ライセンスの問題とかなのかな。 ちなみにCDH4には入ってる。

2012-07-27 02:49:40
Takuya UESHIN @ueshin

@kernel023 あー、確かにCDH3にも入ってますよね。ライセンスに問題なかったら入れておいて欲しいです。

2012-07-27 02:55:56
Tatsuo Kawasαki @kernel023

@ueshin snappyを超えるプロプラの凄い圧縮ライブラリが含まれている、、なんてことはないですよねw

2012-07-27 03:12:19
たむたむ🏫 @tamtam180

@kernel023 @ueshin CDH4(CommunityVersionだとHadoop0.23系のツリー)ならSnappyよりも凄いLZ4が入ってますん。SOファイルは無いですけど。

2012-07-27 04:04:16
草薙 昭彦 @nagix

2.0betaにはlibsnappyが入っていないのか。。

2012-07-27 09:13:09
Tatsuo Kawasαki @kernel023

となるとLZ4のnative library(*.so)が欲しいですね RT @tamtam180: @ueshin CDH4(CommunityVersionだとHadoop0.23系のツリー)ならSnappyよりも凄いLZ4が入ってますん。SOファイルは無いですけど。

2012-07-27 09:30:57
Tatsuo Kawasαki @kernel023

なぜ私達はHDFS上にプラットフォームを構築するのか - Cloudera http://t.co/ORgjMwRP #hadoop @ClouderaJPさんから

2012-07-27 10:55:59
Takuya UESHIN @ueshin

@tamtam180 @kernel023 あー、昨夜はLZ4の名前が出てきませんでした。w HBaseのLZ4対応は0.94.1からかー。 CDH4u1にはバックポートされるはず。 MapRは2.0がリリースされる頃には0.94.1を入れてくれそうな気がする。というか期待する。

2012-07-27 11:08:23
Tatsuo Kawasαki @kernel023

将来の話はわかりません:p。ひとつ言えることはCDH4u1じゃなくCDH4.1という標記になるかと RT @ueshin: @tamtam180 あー、昨夜はLZ4の名前が出てきませんでした。HBaseのLZ4対応は0.94.1からかー。CDH4u1にはバックポートされるはず。

2012-07-27 11:15:42
Takuya UESHIN @ueshin

@kernel023 あ、なるほど。こないだのセキュリティアップデートも 4.0.1 とかでしたね。

2012-07-27 11:17:01