PRML復々習レーン#2に参加・発表してきました

PRML復々習レーン#2に参加して発表してきました.参加者のみなさまおつかれさまでした&ありがとうございました.会場提供をしてくださったDeNAさんと会場係の@showyouさんに感謝申し上げます.今回から司会進行をやらせていただくことになったものの,初回から遅刻というご迷惑をかけてしまいました.代打司会と幹事の@naoya_tさんに謝罪と御礼申し上げます.申し訳ありません...

自分の発表資料をupしました.

今回は2.3ガウス分布から2.4.1まで.自分は以下の2つのサブセクションを担当.当初想定していたよりも演習問題が多くて相当苦労.いくつかの問題はサボってしまった (後日フォロー予定...)

2.3.6ではベイズ推論の基本である事後分布∝尤度×事前分布を体験する.尤度関数と共役事前分布をかけて式を整理するとホラ事前分布と同じ形になるよね,というアハ体験をひたすらする.分散や平均が既知のことなんてレアケースなので分散も平均も未知の場合の,それも多次元ガウス分布に基本的には興味があるのだけれど,その事後分布であるガウス‐ウィシャート分布のパラメータについては本文には書かれていない...

2.3.7ではガウス分布において,ガンマ分布を精度パラメータの事前分布として精度パラメータを積分消去するとt分布が得られるよ.t分布はいろんな分散のガウス分布の無限混合分布という解釈ができるよ.外れ値に強いよ,などということについて紹介した.

2010年のNIPS読み会で @shuyo さんが紹介された事前分布にt分布を用いることで外れ値に頑健にしたロジスティック回帰のことを思い出したりした.

本レーン,復習レーンと比較すると参加メンバー人数もレベルも上がった気がする.最初の自己紹介で「微分もできなかったゆとりっす!てへぺろ☆」と言ったときの会場からの (駄目だこいつ・・・早くなんとかしないと,という) 冷たい視線が少し痛かった.少しカタい雰囲気になっている気がするので気軽に参加できるような雰囲気づくりに貢献したい.まずは早起きの訓練から...

質問・疑問 (自担当部分)

  • ベイズ推論はRobbins-Monroの逐次推定と一致することの証明
  • ガウス分布 x ガウス-ウィシャート分布の事後分布のパラメータは?
  • ガンマ分布のa, bに関する定性的な意味づけ
  • モードの推定方法について

質問・疑問 (自担当部分以外)

  • Robbins-Monroアルゴリズムの制約の意味
  • 平均xが0になったらダメじゃない?
  • arctan \infty で定義されるの?
  • (2.195)なんで積分しているの?