PRML第12回 9.2～10.1

@tettsyun

声が... #prml

Yoh Okuno @yoh_okuno

人工データの説明 #prml

Yoh Okuno @yoh_okuno

潜在変数はデータ数より一般に少ないという話 #prml

Yoh Okuno @yoh_okuno

エムアルゴリズムは確かに初めて聞いたｗ #prml

@syou6162

K<<N #prml

しましま @shima__shima

@nokuno 潜在変数は，パラメータ減らしたモデルを作りたいという目的なので K≪N です．でなければ，ノンパラを使えばいいです．

Yoh Okuno @yoh_okuno

潜在変数はN個あるけどK種類ある #prml

Yoh Okuno @yoh_okuno

zのボールドかボールドでないかで盛り上がった #prml

Yoh Okuno @yoh_okuno

1-of-K表現は直感的じゃないよなあ #prml

@syou6162

平均パラメータは分散パラメータにも関連してなかったっけとか思ったけど、そっちは変分ベイズのほうだった(図10.5とか)

naoya t @naoya_t

ノーテーションが紛らわしくてみんな涙目 #prml

shuyo @shuyo

慣れましたｗ RT @nokuno: 1-of-K表現は直感的じゃないよなあ #prml

宮澤慎司 @sinjimiyazawa

@nokuno 俺はいつも7時に目覚ましをセットしている!　起きた例しはないがww

Yoh Okuno @yoh_okuno

数学的に記号を扱うには1-of-K表現が便利なんだけど、初学者には優しくないという気がします #prml

@syou6162

先週よりはノーテーション分かりやすい気がw #prml

shuyo @shuyo

@thorikawa 遅ればせながら了解です～

@syou6162

先週じゃなくて前回

@syou6162

とある平均パラメータとデータが一致してしまうと、特異性の問題が起こってくる #prml

Yoh Okuno @yoh_okuno

特異性とは：分散も最尤推定しようとすると、データ点にぴったり一致した分散0のクラスタができてしまう #prml

@syou6162

じゃあ、事前分布を置いてやればいいじゃないという感じだが、やっぱり書いてあった。正則化のアプローチもあるんだよねえ、きっと

Yoh Okuno @yoh_okuno

識別不可能性：同等な解がK!個存在する #prml

Yoh Okuno @yoh_okuno

convex clusteringとかはそこら辺を克服してるのかな #prml

Yoh Okuno @yoh_okuno

SOMみたいなトポロジカルな構造を導入するのもクラスタ番号を順序付ける方法の１つなのかも #prml

Yoh Okuno @yoh_okuno

識別不可能性はサンプリングのときに問題になる？ #prml

Yoh Okuno @yoh_okuno

並列アルゴリズムで、識別不可能性が問題になる #prml