HDFSはファイルサーバーに使うものじゃないよ

Hadoop(0.22以前や1.0.0)のHDFSはNameNodeがSPOF(単一障害点)なので、ファイルサーバーやデータの“バックアップ”には向かないという話です。 HDFS上に構築されているHBaseの場合、(HBase自身にはSPOFは無いけれども)HDFSにSPOFがあるので、NameNodeは冗長化した方が良いようです。 冗長化には以下のような仕組みが考えられているようです。 続きを読む
38
前へ 1 ・・ 7 8 次へ
Takafumi Yonekura @tyonekura

hadoopの仕組みをGB単位のデータに使えば高速です!(そんなメモリに乗るようなデータを。。) RT @hamaken: Hadoopで高速で安全なファイルサーバ... とか書いてある。誤解する人が出てきそうでなんだかなー http://t.co/Xi5Rlbh6

2012-01-08 10:13:34
Sho Shimauchi @shiumachi

"Hadoopはその基本機能として、3レプリケーション機能を有しています。これを使えば…高速で安全なファイルサーバーを実現することも可能です"象はそんな使い方ができるのか / “今年は何を売ればいいのか? 注目すべきITビジネスのキー…” http://t.co/72FL6Sd9

2012-01-08 11:05:14
Sho Shimauchi @shiumachi

ものを書くときに、その一言一言がどういう根拠に基づいて導き出したものなのかは自分でしっかり意識する必要があると思っている。自分の思い込みかもしれないし、又聞きかもしれないし、本を斜め読みして勘違いしたものかもしれない。実践すると結構大変なんだけどね

2012-01-08 11:08:49
ICHIRO SATOH @ichiro_satoh

ど、どういうこと? RT @shiumachi "Hadoopはその基本機能として、3レプリケーション機能を有しています。これを使えば…高速で安全なファイルサーバーを実現することも可能です…” http://t.co/EU8aKWiK

2012-01-08 11:09:43
Sho Shimauchi @shiumachi

なんというか、お金とって人にものを教えるんだったら、教える対象のことぐらいもう少し調べてもいいんじゃないかなあという気がする。明らかに全く調べてないってことがわかったら結局損をするのは自分自身だと思うのだけど

2012-01-08 11:15:34
Guutara (⁰⊖⁰) Stay Home @Guutara

@shiumachi また、でたよ。(´・_・`) ファイルサーバ。今年も、かぁ。

2012-01-08 11:24:27
Sho Shimauchi @shiumachi

なんか花粉症とかインフルエンザ扱いですね…… RT @Guutara: @shiumachi また、でたよ。(´・_・`)ファイルサーバ。今年も、かぁ。

2012-01-08 11:25:20
marble @marblejenka

ファイルサーバーの人気に嫉妬

2012-01-08 12:19:00
tamagawa ryuji @tamagawa_ryuji

www まあ、それにしてもひどいっすね。RT @shiumachi: なんか花粉症とかインフルエンザ扱いですね…… RT @Guutara: @shiumachi また、でたよ。(´・_・`)ファイルサーバ。今年も、かぁ。

2012-01-08 12:23:11
Norihisa Miyakawa @m_nori

え?@k_kanou: RT @shiumachi: "Hadoopはその基本機能として、3レプリケーション機能を有しています。これを使えば…高速で安全なファイルサーバーを実現することも可能です"象はそんな使い方ができるのか / http://t.co/NVUnQxPI

2012-01-08 16:25:57
Ryu Kobayashi @ryu_kobayashi

「基本機能として、3レプリケーション機能を有しています。」言ってる意味がよくわからないです(^p^) RT @hamaken: Hadoopで高速で安全なファイルサーバ... とか書いてある。誤解する人が出てきそうでなんだかなー http://t.co/AxnzqdyI

2012-01-08 19:17:39
Ryu Kobayashi @ryu_kobayashi

ということはだ。1ノードで3レプリケーションってどうなるのと?教えてエロい人

2012-01-08 19:20:17
傳智之 @dentomo

@ryu_kobayashi HDFSのデフォルトのレプリケーション数が3、というところがこんがらがったんでしょうね

2012-01-09 11:53:43
傳智之 @dentomo

「HDFSではデータが各ノードにブロック単位ごとに保存されます。デフォルトのレプリケーション数は3となっています。」と、どこかで見た記事に書いてあったり  http://t.co/cdZ92E3z

2012-01-09 11:55:57
Ryu Kobayashi @ryu_kobayashi

@dentomo まぁ、よくある間違いですよね

2012-01-09 14:37:31
日付切取線 @krtr_date

✄---------- 2/9(木) ---------✄

2012-02-09 00:00:01
切り取り線 @kiri_tori

✄------------ 4/19(木) -----------✄

2012-04-19 00:00:00
Sadayuki Furuhashi @frsyuki

Hive ジョブの管理なんて人間がやるものじゃない。これ間違いない。1クエリでジョブが数十も走り始めたら、もう手に負えない。

2012-04-19 13:02:02
Sadayuki Furuhashi @frsyuki

MapReduce ジョブなんてコロコロと失敗するし、TaskTracker は OOM Killer に殺害されるし、HDFS は壊れるし、NameNode は起動しなくなるし…

2012-04-19 13:06:32
Sadayuki Furuhashi @frsyuki

HDFS を信頼性の高いストレージだと考えてアーカイブ用途に使うのは、端的に言えば誤りだとおもう。

2012-04-19 13:09:41
Sadayuki Furuhashi @frsyuki

AWSは、プロセスを起動するがごとくサーバを起動できるのが良い。同様に、プロセスが死ぬがごとくサーバが死んでも良い様にシステムを作っておくと、AWS の利点を最大限に活かせるのだけども。NameNode がブッ壊れても大丈夫にしておく必要がある。とても大変。

2012-04-19 13:15:13
tagomoris @tagomoris

NameNode 落ちたことはまだ一度もない(キリッ

2012-04-19 13:09:47
Kenichiro HAMANO @hamaken

同じく RT @tagomoris NameNode 落ちたことはまだ一度もない(キリッ

2012-04-19 14:57:30
Ryu Kobayashi @ryu_kobayashi

JTとかNNどころかクラスタ無い全てのHadoopデーモンが落ちてたことがあります(キリッ

2012-04-19 13:12:11
前へ 1 ・・ 7 8 次へ