Repro Tech #7 Practical AI Supported by NAVITIME
-
threetreeslight
- 2138
- 2
- 0
- 15
-
- いいね！15
Tommy Starfield
@tommy_starfield
並列化するテクニックがうまくいく場合がある。バッチサイズを k 倍にしたいときは学習率も k 倍にすればよい。 #reprotech
2019-04-04 19:59:54
トデス子'\
@todesking
並列化でバッチサイズを大きくできるが、大きいバッチは汎化性能にペナルティがある(sharp minimaに落ちやすい)。が、同時に学習率も上げてやればうまくいくらしい #reprotech
2019-04-04 20:00:10
kabukawa
@kabukawa
並列化するテクニックが上手く行く場合がある #reprotech pic.twitter.com/8tyx5x9VPx
2019-04-04 20:00:15
拡大
threetreeslight
@threetreeslight
「Ring All-Reduce（帯域をフルに利用する）てAll Reduceを早くする」 もうそういうアプローチなのか! #reprotech
2019-04-04 20:01:40
kabukawa
@kabukawa
スパコンその2 導入当初からFull Kubernetesクラスタ！ #reprotech pic.twitter.com/v7I66NEvOx
2019-04-04 20:04:02
拡大
threetreeslight
@threetreeslight
「スパコンが導入当社からFull Kubernetesクラスタで動いているので、アルゴリズムかえるのが楽」 スパコンそんな世界なの🙄 #reprotech
2019-04-04 20:04:41
🍋幕ノ内OL(小結)🎖️ガタケ176 カツケット E-20b
@KiKiKi_KiKi
ハードウェアの性能で速くするは札束で叩いて物理で殴る感がたいへん清々しい！つまり好き #reprotech
2019-04-04 20:06:01
kabukawa
@kabukawa
Q：なぜHDFSを選択したか？ A：運用したときにデータが亡くならないとか、エコシステムが活発か？というようなところを重視して選択している。 #reprotech
2019-04-04 20:11:03
kabukawa
@kabukawa
Q：Kubernetesを運用する上での辛さは？ A： ・Infinibandをサポートしていない ・ユーザーとしてはyamlを大量に書かないといけない #reprotech
2019-04-04 20:13:37
kabukawa
@kabukawa
完成された機械学習モデルを保守していくには Sho Shimauchi さん はじまりました！ #reprotech pic.twitter.com/sxCqvoi8Wg
2019-04-04 20:15:32
拡大
threetreeslight
@threetreeslight
shumachiさんの発表ハジマタ! #reprotech pic.twitter.com/THkNVn00hJ
2019-04-04 20:15:44
拡大