-
- いいね！0
SODA Noriyuki
@n_soda
ラック16台 全部一度に移行するにはラックスペースが足りないので序々に移行 20PBの移行作業 #gfarm2017
2017-12-22 15:55:10
SODA Noriyuki
@n_soda
当初 gfprep -j 1 : 12TB/日 gfprep のオプションを -j 12 に変更 : 95TB/日 ところが移行元を変更: 26TB/日に (ネットワーク構成の問題?) replica_check 方式: 112TB/日 10月以降、一般利用を再開したら 3〜15TB/日 に性能低下 11月性能ボトルネックを解消した gfarm-2.6.23: 112TB/日 #gfarm2017
2017-12-22 15:56:52
SODA Noriyuki
@n_soda
質問: 移行のデータ保全保証は？ 複製処理で書き込んだ後にもベリファイで md5 を自動比較している #gfarm2017
2017-12-22 16:01:14
SODA Noriyuki
@n_soda
■ HPCI共用ストレージにおける階層型ストレージの導入構想 理化学研究所 原田浩 氏 AICSという名前は2017年度が最後。 来年度は改名 共用ストレージ更新中 10TBdisk RAID6 (8D2P) x 58set x 11 set = 10x8x58x11 = 51PB #gfarm2017
2017-12-22 21:05:30
SODA Noriyuki
@n_soda
○ Gfarm の階層型のための支援機能 ・replica_check_remove_grace_used_space_ratio 利用量が閾値を越えるまで削除を猶予 ・replica_check_remove_grace_time アクセス時刻から、一定の時間がたつまで削除までの猶予 余剰であっても1年くらいはとっておく…といった運用 #gfarm2017
2017-12-22 21:06:44
SODA Noriyuki
@n_soda
・spool_base_load ロードアベレージをこのパラメータで嵩上げし、書き込み対象から外す ・replication_busy_host enable 負荷が高くても複製対象としては選ぶ #gfarm2017
2017-12-22 21:07:34
SODA Noriyuki
@n_soda
○ 保存用ストレージとしてはクラウドの利用も検討 Microsoft Azure 環境にファイルシステムノードを設置して検証中 並列度1で 144MB/s 並列度16で 221MB/s Azure の 2Gbps (250MB/s) 制限に近い性能 #gfarm2017
2017-12-22 21:12:51
SODA Noriyuki
@n_soda
これを8ノード並列で測定したところ、期待した性能が出ない。 Azure的には同じクラスのインスタンスでも、性能が出ないノードが混ざっていたのが原因だった。 #gfarm2017
2017-12-22 21:13:38
SODA Noriyuki
@n_soda
■ Gfarmを加速するDDN GfarmScaler DDN 橋爪信明 氏 ベンチマーク SFA14KXE VM上にVMを構成 VM毎に 1/2/4 XFS構成 14KXE: 1VMあたり write 7GB/s read 8.5GB/s (この辺ざっくり略) #gfarm2017
2017-12-22 21:15:40
SODA Noriyuki
@n_soda
■ひまわりデータ解析を支えるPwrake/Gfarm NICT 村田 健史 氏 himawari8.nict.go.jp ひまわりリアルタイムWeb 目標 - (抜粋ではなく) すべてのデータを提供 - 10分以内 - スマホでもみれる #gfarm2017
2017-12-22 21:17:02
SODA Noriyuki
@n_soda
himawari.asia 気象庁の人も実は使ってるらしい 1時間あたり 全世界画像 400枚 日本域の画像 25枚 1580万ファイル/日=57億ファイル/年 #gfarm2017
2017-12-22 21:18:15
SODA Noriyuki
@n_soda
■ パネル討論「ファイルシステムのこれから」 (これは全部略) lustre ぐらいメジャーでも結構苦労はあるんだなあというのが感想 #gfarm2017
2017-12-22 21:21:19