JANOG52 Meeting Day3 午前 #JANOG
🍀 #JANOG 52 情報🍀 #東陽テクニカ は本アカウントの他に 「セキュリティ&ラボカンパニー」も出展中! 取扱いの『NETSCOUT Arbor』製品を利用して イベント事務局(@janogmeeting )& #JPIX 様と JANOG会場内の #ネットワークトラフィック を解析しています🔍✨ pic.twitter.com/lcFNzi5hwz
2023-07-07 10:04:13あきみちさん @geekpage にこわばった体を整えていただくなど。ありがとうございました😀 ブースからトイレに行く時にいきなり体の軽さが違って驚くなど。 #janog #janog52
2023-07-07 10:11:00#JANOG52 3day 最終よろしくお願いします。 (NOC部屋より) pic.twitter.com/GlWpzvAkZm
2023-07-07 10:12:28#JANOG 52 ブース番号1 IIJブースでは、アラート対応のマスコット バリーくん の配属先を募集中。くじ引きであたりを引いた方にバリーくんぬいぐるみをプレゼントします。 昨日、一昨日くじを引いた方ももう一回だけチャレンジOKにします。スタッフにくじを引きたいと伝えてください。 pic.twitter.com/wiuNW6UOfP
2023-07-07 10:12:55Hackathon Wrap-up(30分) ハッカソンWinnerチーム #JANOG #JANOG52 #JANOG52_101
2023-07-07 10:15:10AI/ML基盤の400G DCネットワークを構築した話(30分) 内田 泰広さん 小障子 尚太朗さん #JANOG #JANOG52 #JANOG52_hall
2023-07-07 10:15:43101会議室、午前最初のセッションは、ハッカソンのWrap-upから。 #JANOG pic.twitter.com/ST3JmaMqa0
2023-07-07 10:16:13AI/ML基盤の400G DCネットワークを構築した話 参加してます #JANOG #JANOG52 pic.twitter.com/g0Kd49LsNZ
2023-07-07 10:16:25本番に向けての事前相談会(アイデアソン)でチーム分け、テーマ検討、インフラ構成検討を実施。 #JANOG #JANOG52 #JANOG52_101
2023-07-07 10:17:52内田さん:Cycloud (AS24284) ・プライベートクラウドとして IaaS、KaaS、ML Platformを提供 #JANOG #JANOG52 #JANOG52_hall
2023-07-07 10:17:58当日は10:00-17:00まで長時間の取り組み!でもやってみたらとても短かったとのこと。 #JANOG #JANOG52 #JANOG52_101
2023-07-07 10:18:39ML Platform ・GPU環境の提供 →Kubernates の Pod として GPUを提供 ・オンプレを選定している理由 →クラウドより早いスピード感 →既存サービスとの接続 →長期利用時のコスト #JANOG #JANOG52 #JANOG52_hall
2023-07-07 10:18:44提供インフラ:EVE-NG or Containerlabをチーム単位で提供。 自由にカスタマイズ可能、提供リソース範囲ならノード追加も自由。 #JANOG #JANOG52 #JANOG52_101
2023-07-07 10:19:26ML Platformで直面していた課題 ・大規模言語モデル (LLM) を様々な事業に活用している ・課題1:LLMの拡大に兎より1台のGPUサーバーのメモリでの処理が困難 (モデルパラレル) ・課題2:学習時間が長い (データパラレルの並列数を増やしたい) #JANOG #JANOG52 #JANOG52_hall
2023-07-07 10:20:03参加5チーム。 トポロジ図可視化、GAS+ZabbixAPI使って自動化してみた、長崎可視化物語、コンフィグからネットワーク構成図作成、インフラ構築自動化をやってみる #JANOG #JANOG52 #JANOG52_101
2023-07-07 10:21:03並列分散処理するためには ①CPUセントリックなKubernatesなどの通信はLossyなEthernet ②サーバー内のGPU間通信はPCIeよりも広帯域なNVLinkで通信 ③サーバーをまたぐGPU間通信は1と独立したInterconnectでRDMA #JANOG #JANOG52 #JANOG52_hall
2023-07-07 10:22:12ハッカソンどうだった? →久々のオフライン開催!参加者が互いに交流(exchange)できた!日常では経験できない貴重な機会! →一方でインフラ構築で時間取られるケースが多かった… #JANOG #JANOG52 #JANOG52_101
2023-07-07 10:22:19Interconnectの技術選定 ・RoCEv2(Routable RoCE)を採用 →マルチテナント ・Infinibandの知見が少なくEthernetには安心感を感じた ・Lossless Ethernet ・RDMAはLossがないNWを前提としたプロトコルで #JANOG #JANOG52 #JANOG52_hall
2023-07-07 10:23:22スタッフとして参加してみて →JANOGはいろんな人たちに支えられている! →参加者とはまた違った目線で関われる! スタッフに興味を持っている方はぜひ次のスタッフに応募を! #JANOG #JANOG52 #JANOG52_101
2023-07-07 10:23:24