Cloudera 勉強会・クラウド編・2017年8月

8/9に開催した「クラウドでのビッグデータ運用について」についてまとめました  http://jp.cloudera.com/more/news-and-blogs/press-releases/20170809S.html
0
Sho Shimauchi @shiumachi

Cloudera勉強会は本日(8/9)開催です。クラウド上でビッグデータを活用する方法について紹介します。私も久々に参加します jp.cloudera.com/more/news-and-…

2017-08-09 09:44:25
Daisuke Kobayashi @d1ce_

ビッグデータの PaaS である Altus について喋ります twitter.com/shiumachi/stat…

2017-08-09 16:58:00
TakahiroMoteki @tkmoteki

Cloudera Director & Altusについて聞きにきました。 jp.cloudera.com/more/news-and-…

2017-08-09 17:01:17
Satoshi Hirose / 廣瀬 智史 🐘 @satoshihirose

HDFSとS3のHybridのストレージオプション。BDRの話。I just read this in the @ClouderaEng blog: blog.cloudera.com/blog/2017/08/u…

2017-08-09 17:36:17
Satoshi Hirose / 廣瀬 智史 🐘 @satoshihirose

さくっとCloudera Director試したい方に。tsuyo/cloudera-boot: Cloudera Director Utilities github.com/tsuyo/cloudera…

2017-08-09 17:46:03
Satoshi Hirose / 廣瀬 智史 🐘 @satoshihirose

AWS上にDirector構築する際のアーキテクチャ設定ファイルのサンプル github.com/cloudera/direc…

2017-08-09 17:49:54
Satoshi Hirose / 廣瀬 智史 🐘 @satoshihirose

素晴らしい比較表。ClouderaDirectorを使ったクラウドマルチHadoopクラスタの設計 - CyberZ公式エンジニアブログ engineer-blog.cyber-z.co.jp/entry/2016/12/…

2017-08-09 17:58:42
Satoshi Hirose / 廣瀬 智史 🐘 @satoshihirose

さっきの比較表のカスタムAMIはEMRでも出来るようになりましたね。aws.amazon.com/jp/about-aws/w…

2017-08-09 18:06:59
Satoshi Hirose / 廣瀬 智史 🐘 @satoshihirose

Altusに付属のSaaS、ワークロードアナリティクス、凄そう。使ってみたい。自動解析サービス。ジョブが失敗した原因をハイライトして表示、遅延やボトルネックの特定、より最適なインスタンス構成についての情報。blog.cloudera.co.jp/announcing-wor…

2017-08-09 18:23:36
Satoshi Hirose / 廣瀬 智史 🐘 @satoshihirose

Altus、現時点でメタデータサーバーが永続化されていないらしいので、クラスター起動毎にパーティション認識させるためにメタデータ作成する必要があるっぽいな。

2017-08-09 18:39:11
Satoshi Hirose / 廣瀬 智史 🐘 @satoshihirose

AltusのジョブキューもEMRと同じでシリアルらしい。その方がトラシューの際に原因がはっきりする。ジョブの依存性管理はTalendと連携で可能。Altusはクラスターを中心ではなくジョブを中心とした設計になっているという話が印象的だった。

2017-08-09 20:31:42
Daisuke Kobayashi @d1ce_

Cloudera Altus の日本語ドキュメントはこちら cloudera.com/documentation/…

2017-08-09 22:41:30