久しぶりにブログ記事を書いてみる．リハビリがてらに軽いノリの記事を．機械学習の勉強を始めてロジスティック回帰あたりに来ると出てくるカルバック・ライブラーダイバージェンス (以下KLd) ．機械学習以外の文脈でも分布同士を比較する場合にまっさきに出…