さて残り時間もわずかな2012年も振り返ってみる．2012年の抱負を眺めつつ，抱負に対する達成度を確認する． × (1) 20代のうちにやっておきたいことを済ませる 結局20代最後ということを意識せずに終えてしまった気がする × (2) 肉体を鍛える 肉体が弱くなる…

12月16日(日)に開催されたSIGIR2012勉強会に参加して発表してきました．休日にも関わらず会場を提供してくださったデンソーアイティラボラトリ様と会場係の山本様，勉強会幹事のみなさま，参加者のみなさま，ありがとうございました．SIGIR勉強会といえば昨…

PRML復々習レーン#7に参加してきました．会場を提供してくださった株式会社VOYAGE GROUPさん，会場係の @hagino3000 さん，参加者のみなさま，ありがとうございました．毎回行っている前回のおさらい資料をupしました．最近ネタに対する反応が薄くなったので…

こんばんは @sleepy_yoshi です．Machine Learning Advent Calendar 2012 の11日目を担当します．サモア時間ではまだ12月11日なので間に合いましたね．今日はバイナリ素性ベクトルの内積計算にSSE4.2のpopcnt命令を用いて高速化することでk-NN分類器を高速化…

過去の記事でvectorに比べてmapの全走査が遅いという比較を行ったことを思い出し，そういえばunordered_mapとの比較をしていなかったので比較をすることにした． 過去の記事 mapとvector<pair>を走査する速度の違い - 睡眠不足？！ 前回のコードに以下…

プロ技術者になる エンジニアの勉強法作者: 菊地正典出版社/メーカー: 日本実業出版社発売日: 2008/10/17メディア: 単行本（ソフトカバー）購入: 3人 クリック: 158回この商品を含むブログ (10件) を見る （2012-08-17読了）夏休みの読書第三弾．エンジニア…

エンジニアが30歳までに身につけておくべきこと作者: 椎木一夫出版社/メーカー: 日本実業出版社発売日: 2005/10/20メディア: 単行本（ソフトカバー）購入: 4人 クリック: 123回この商品を含むブログ (11件) を見る （2012-08-16読了）夏休み読書シリーズ第二…

自分でやった方が早い病 (星海社新書)作者: 小倉広出版社/メーカー: 講談社発売日: 2012/05/25メディア: 新書購入: 8人 クリック: 485回この商品を含むブログ (34件) を見る （2012-08-15読了）久々の読書．夏休みに本屋に寄っていくつか物色をしてレジに向…

ICML2012読み会に参加して発表してきました．主催の@nokunoさん，会場を提供して頂いた@shuyoさん，サイボウズさん，参加者のみなさまありがとうございました!自分は以下の論文を紹介 C. Scherrer, M. Halappanavar, A. Tewari, D. Haglin, "Scaling Up Coor…

PRML復々習レーン#3に参加して発表しました．会場係と会場を提供してくださった@showyouさんとDeNAさんに感謝申し上げます．毎度ながら素晴らしい会場，そして素晴らしい景色．今回から新しい試みで前回の復習内容をまとめてみることにしてみた．いちsubsect…

SVMツールで有名なLIBSVMの作者らがまとめた "A Practical Guide to Support Vector Classification" という良資料[1]の日本語解説資料をまとめてみたので公開． SVM実践ガイド (A Practical Guide to Support Vector Classification) View more presentatio…

前回の記事でパーセプトロンの収束には学習率が関係ないということを検証した．前回に言及するのを忘れていたが，重みベクトルの初期値が0でない場合は一致しない気がする．というわけで初期値が0でない場合には学習率によって収束までの誤り回数が変化する…

PRML復々習レーン#2に参加して発表してきました．参加者のみなさまおつかれさまでした＆ありがとうございました．会場提供をしてくださったDeNAさんと会場係の@showyouさんに感謝申し上げます．今回から司会進行をやらせていただくことになったものの，初回…

(2012-06-20追記) ただし，重みベクトルの初期値が0のときだけということの記述忘れ．これについて以下の記事参照 (パーセプトロンの収束に学習率が関係ないのは初期値が0のときだけ)前回の記事に @shuyo さんから以下のコメントを頂いた．前半部分を引用す…

昨日公開したパーセプトロンのデモに対して「パーセプトロンに学習率って必要だっけ?」というコメントを頂いた．結論から言えば「収束性の保証には要らない．ただし，適当な値に設定すると経験的には収束が速くなる．」という回答になる *1．パーセプトロン…

前回k-NNデモを作った後に「これパーセプトロンも同じようにデモ作れるんじゃね?」と思ったので実装してみた．今度はクリックでデータ点を追加できるようにしたり，サンプル選択方法を可変にしたり，PAの更新の様子を可視化すると面白いかもと思って後からPA…

研究室の後輩向けに機械学習実装レクチャのようなものをやってみたのだけれど，知識ゼロの学生を対象にした場合にはk-NN (特に1-NN) から始めるのがよかろうと思ってそこから解説してみたk-NN->パーセプトロンという流れがよいとおっしゃっている．[http://n…

(Tokyo.SciPyに毎度お邪魔させて頂いているのにも関わらず今まで全くNumPyとかSciPyとか使っていなかったのだけれど) 最近ようやくNumPyやSciPyを(ほんの)少しずつ使うようになってきた．機械学習関連に限らず必ずと言っていいほどお世話になる逆行列計算．…

ひさびさにTIPSぽい記事を書いてみる．C++のstd::ifstreamを読み進んだ後に先頭に戻りたい場合はこんな感じでseekg()を使えばよさそうということを知る． std::ifstream fin; fin.seekg(0, std::ios::beg); ファイルの行数を調べてから各行に対する処理をし…

働かないアリに意義がある (メディアファクトリー新書)作者: 長谷川英祐出版社/メーカー: メディアファクトリー発売日: 2010/12/31メディア: 新書購入: 63人 クリック: 995回この商品を含むブログ (73件) を見る （2012-05-04読了）進化生物学者による社会性…

GW中にやることリストのひとつである確率的情報検索ノートができたので公開． Notes on Probabilistic Information Retrieval ―Probability Ranking PrincipleからBM25まで― 確率的情報検索とは，Prbability Ranking Principle (説明はノート参照) をスター…

アイデアのちから作者: チップ・ハース,ダン・ハース,飯岡美紀出版社/メーカー: 日経BP社発売日: 2008/11/13メディア: 単行本購入: 27人 クリック: 274回この商品を含むブログ (74件) を見る （2012-05-01読了）ひさびさの読書．今年はたくさん読む宣言した…

さて先日あることがきっかけでヒープスの法則 (Heaps' law) のことを思い出した．最初はヒープの法則と記憶していたのだけれど，'がHeapsの後ろにあるので，ヒープスの法則とかヒープス則と呼ぶのが正しいのだろう．ここではHeapsの法則と呼ぶことにする．He…

君たちに伝えたい３つのこと―仕事と人生について 科学者からのメッセージ作者: 中山敬一出版社/メーカー: ダイヤモンド社発売日: 2010/07/30メディア: 単行本購入: 1人 クリック: 44回この商品を含むブログ (8件) を見る （2012-01-28読了）教授からのメッセ…

(2012-01-27追記) 同僚のご指摘で一部修正 (B会長に感謝!)後輩のつぶやきがきっかけで標本分散の計算方法について気になって検証してみたのでメモ．標本分散の計算方法は2つある．以下の定義式: と，自乗の平均から平均の自乗を引くもの: .ちゃんとした呼び…

崖っぷち弱小大学物語 (中公新書ラクレ)作者: 杉山幸丸出版社/メーカー: 中央公論新社発売日: 2004/10メディア: 新書購入: 5人 クリック: 47回この商品を含むブログ (25件) を見る （2012-01-25読了）生駒日記で紹介されていて気になったので読んでみた．さ…

つながる読書術 (講談社現代新書)作者: 日垣隆出版社/メーカー: 講談社発売日: 2011/11/18メディア: 新書 クリック: 61回この商品を含むブログ (45件) を見る （2012-01-17読了）今はやりの読書会を意識した読書術について書かれた本．著者による本の読み方…

いますぐ書け、の文章法 (ちくま新書)作者: 堀井憲一郎出版社/メーカー: 筑摩書房発売日: 2011/09/05メディア: 新書購入: 1人 クリック: 33回この商品を含むブログ (36件) を見る （2012-01-11読了）ライターである著者が文章書きに対する考えをつづっている…

腰痛はアタマで治す (集英社新書)作者: 伊藤和磨出版社/メーカー: 集英社発売日: 2010/08/17メディア: 新書購入: 5人 クリック: 47回この商品を含むブログ (16件) を見る （2011-01-03読了）本棚に入っていて読んでいなかった本．もっと早く読むべきだった…．…

心の元気２００％ＵＰの習慣術: 人は「これ」で９割変わる (知的生きかた文庫)作者: 斎藤茂太出版社/メーカー: 三笠書房発売日: 2011/11/22メディア: 文庫この商品を含むブログを見る （2011-01-03読了)年末に人待ちしているときに買ってしまった本．昨年は…