数値計算

標本分散の計算方法による速度差と誤差について

(2012-01-27追記) 同僚のご指摘で一部修正 (B会長に感謝!)後輩のつぶやきがきっかけで標本分散の計算方法について気になって検証してみたのでメモ.標本分散の計算方法は2つある.以下の定義式: と,自乗の平均から平均の自乗を引くもの: .ちゃんとした呼び…

exp関数の (実装の) 限界を体感

@shuyo さんがブログを書いた数日後に奇しくもロジスティック回帰を実装してexpのオーバーフローではまっていたので,expの限界について,自分自身で体感してみることにした.@shuyo さん曰く,だいたい710くらいでinfになりまっせ,とのこと.ふむふむこれ…