PLAsTiCC Astronomical Classification まとめ

ynktk @ynktk1

チームメイトにも恵まれて，なんとかゴールドを獲得した．次のコンペでexpert牧場を卒業したい． pic.twitter.com/8PWfjLxJXH

拡大

Maxwell! 🌃 🌻 🐇 🎄 ☃ @Maxwell_110

plasticc 安定していましたね。 gold finish した日本勢の方々おめでとうございます！ kaggle.com/c/PLAsTiCC-201… pic.twitter.com/3EUDhhdFCf

拡大

カレーちゃん🍮 @currypurin

plasticcコンペ16位のシルバーメダルでした！！ 最後の１週間のチームだったけれど、素晴らしいチームでした。 これで目標のKaggleMasterまで、シルバー以上ひとつとなりました。次こそはゴールドをとってKaggleMasterになれるようやっていきます！ pic.twitter.com/NvlonUFdDp

拡大

まますさん @mamas16k

PLAsTiCC Astronomical Classification, 3rd place/1100 teamsでした！応援して下さった方々、本当にありがとうございます！惜しくも優勝は逃してしまいましたが、最高のチームメイト達(@nyanp, yuval)と戦い、何とか初入賞することが出来ました！(* ´_ω`*) pic.twitter.com/SNrnhperdV

拡大

まますさん @mamas16k

class99の式は、 extra galacticが c99 = 1.65 * (c42 + c52 + c62 + c95) ** 2.5 * (1 - c95 - c62) ** 0.635で、 galacticが c99 = 0.2 * np.prod([(1 - c) for c in classes]) だった。金圏入れなかった人たちはこれ使えれば入れると思う

まますさん @mamas16k

ちなみにこれなしだとスコアは0.758で5位

まますさん @mamas16k

c99の扱い、最後の5日間だけしか頑張ってないので、もっと良いやり方があったと思う

reinlearn @reinlearn

PLAsTiCCコンペお疲れ様でした。メダル圏内には入れませんでしたが、学びは多かったです。でもやっぱり悔しいです(. .)

カレーちゃん🍮 @currypurin

金圏に入れなかった原因のひとつがこれか。アイデアはあったものの、全く試せなかった。 twitter.com/mamas16k/statu…

まますさん @mamas16k

アンサンブルだけど、単純に線形で混ぜるよりもclass毎にweightをoof predictionから推定して混ぜた方が精度が良い。0.006ぐらいよくなる

まますさん @mamas16k

モデルは、ワシ : CatBoost, nyanpさん: LightGBM, yuval : 1D-CNNだった。yuvalのモデルは本当美しいことこの上ないので皆見て欲しい。あと、nyanpさんの鬼特徴が本当凄かった。

まますさん @mamas16k

何故かCatBoostのほうがLightGBMより全然精度良かったので、かなりparameter sensitiveなんだと思う

こうきょ @hiding_koukyo

PLAsTiCCコンペお疲れ様でした、メダル圏にも入れず力不足を感じます 今回はTLの日本勢がかなりの割合で参加していたのでやってる間ズットプレッシャーを感じていました

まますさん @mamas16k

特徴は、色々ハンドメイドした奴とpeakからn%への日数とか、GPとかやったけど、結局template fittingが一番効いてたという感じ

takuoko @takuoko1

@mamas16k LBで試行錯誤したんですか？

takuoko @takuoko1

これやったらoverfitした笑 twitter.com/mamas16k/statu…

まますさん @mamas16k

@takuoko1 ある程度クラスに関する情報から想定はつくんですが、基本的にはextra galacticに関してLB探索する感じですね。僕らはそれに気づいたのが終了5日前だったので正直遅すぎた・・・

Maxwell! 🌃 🌻 🐇 🎄 ☃ @Maxwell_110

@jy_msc 機会があれば組みましょう！ｗ

まますさん @mamas16k

@takuoko1 まあ僕たちの場合モデルも違うし3人とも全然予測値の分布が違ったので・・・例えばLightGBMとLightGBMとかだったら普通にoverfitすると思います

まますさん @mamas16k

ただ、上位5チームはclass99がどうであろうと結局同じであることは間違いない

まますさん @mamas16k

@Maxwell_110 @takuoko1 それもあって、自分はhyperoptでsearchするときにweightの範囲とweightの平均に制約をかけてました。例えば、weightは0.4 ~ 0.6の間みたいな感じで

Maxwell! 🌃 🌻 🐇 🎄 ☃ @Maxwell_110

@mamas16k @takuoko1 それぞれの weight はどれくらいだったのですか？

まますさん @mamas16k

@Maxwell_110 @takuoko1 もちろんclass毎に全然違うんですが、平均してみるとCatBoost : 0.3, LightGBM : 0.2, NN : 0.5ぐらいですね (というかそうなるようにweightを定めた)

takuoko @takuoko1

@mamas16k Twitterでは伝わらないので明日聞きます！

Maxwell! 🌃 🌻 🐇 🎄 ☃ @Maxwell_110

@mamas16k @takuoko1 おお。いい感じの weight ですね。 安心感のある比率。