2012-06-01から1ヶ月間の記事一覧

SVM実践ガイド (A Practical Guide to Support Vector Classification)

SVMツールで有名なLIBSVMの作者らがまとめた "A Practical Guide to Support Vector Classification" という良資料[1]の日本語解説資料をまとめてみたので公開. SVM実践ガイド (A Practical Guide to Support Vector Classification) View more presentatio…

パーセプトロンの収束に学習率が関係ないのは初期値が0のときだけ

前回の記事でパーセプトロンの収束には学習率が関係ないということを検証した.前回に言及するのを忘れていたが,重みベクトルの初期値が0でない場合は一致しない気がする.というわけで初期値が0でない場合には学習率によって収束までの誤り回数が変化する…

PRML復々習レーン#2に参加・発表してきました

PRML復々習レーン#2に参加して発表してきました.参加者のみなさまおつかれさまでした&ありがとうございました.会場提供をしてくださったDeNAさんと会場係の@showyouさんに感謝申し上げます.今回から司会進行をやらせていただくことになったものの,初回…

パーセプトロンの収束に学習率は関係ない件

(2012-06-20追記) ただし,重みベクトルの初期値が0のときだけということの記述忘れ.これについて以下の記事参照 (パーセプトロンの収束に学習率が関係ないのは初期値が0のときだけ)前回の記事に @shuyo さんから以下のコメントを頂いた.前半部分を引用す…

パーセプトロンの収束性定理と学習率について

昨日公開したパーセプトロンのデモに対して「パーセプトロンに学習率って必要だっけ?」というコメントを頂いた.結論から言えば「収束性の保証には要らない.ただし,適当な値に設定すると経験的には収束が速くなる.」という回答になる *1.パーセプトロン…

JavaScriptによるパーセプトロン/Passive-Aggressive体験デモ

前回k-NNデモを作った後に「これパーセプトロンも同じようにデモ作れるんじゃね?」と思ったので実装してみた.今度はクリックでデータ点を追加できるようにしたり,サンプル選択方法を可変にしたり,PAの更新の様子を可視化すると面白いかもと思って後からPA…

JavaScriptによるk-Nearest Neighbor体験デモ

研究室の後輩向けに機械学習実装レクチャのようなものをやってみたのだけれど,知識ゼロの学生を対象にした場合にはk-NN (特に1-NN) から始めるのがよかろうと思ってそこから解説してみたk-NN->パーセプトロンという流れがよいとおっしゃっている.[http://n…