mathhunの日記

Haskellと機械学習の勉強日記。PRML読みます。

PRML

2つの正規分布(pdf)の積はまた正規分布?

PRML2章 (2.139)~(2.143)の式変形がわからない。http://en.wikipedia.org/wiki/Conjugate_prior http://www.cs.ubc.ca/~murphyk/Papers/bayesGauss.pdf この辺を見ても同じことが書いてあるが手計算しても合わない。 あとでまた戻ってくるようにメモっとく。

PythonでPerceptronを実装してみた

PRML 4.1.7 にあるパーセプトロンを実装した。勉強のため。 いまのところPython(numpy, pandas)の知識がなさすぎて時間がかかる。 パーセプトロンは単純だし他にわかりやすい説明がいろいろあるし特に書くこともないかな。 こんなに単純なのにちゃんと学習で…

正規分布 vs t分布 - 外れ値に影響されやすい度グラフ化してみた

PRML 図2.16を再現してみた。まずはグラフから 上は外れ値なし、下はあり。赤が正規分布で青はt分布。外れ値なしでは2つのグラフはほぼ重なる。このグラフは乱数を何度か取り直してあえて重なりが少なくなるものを選んだが、たいていはほぼ完全に一致する。 …

PRML 2章 ベータ分布のグラフを描く

Rに慣れるため本にあるグラフをひたすら描いてみる。 png("beta01.png",height=600,width=800) fbeta <- function(x) { dbeta(x,5,5) } curve(fbeta,0,1,col="1") fbeta <- function(x) { dbeta(x,2,2) } curve(fbeta,0,1,col="2",add=T) fbeta <- function(…

PLML 2章 二項分布のグラフを描く

PRML二章から読む。 とりあえず手始めに図2.1をRで書いてみる。 plot(0:10, dbinom(0:10, 10, 0.25), pch=19, type="b") ヒストグラム風に描画する方法が分からないから点と線で。 乱数で出すバージョンも描いてみる。 > x <- rbinom(1000, 10, 0.25); table…