Stanford CS229: Machine Learning
Youtubeで無料公開されてる機械学習(Machine Learning; ML)の入門講座
Andrew Ng先生による解説
https://scrapbox.io/files/64532210ec5b89fcd3c41198.png
Lecture 1 - Andrew Ng (Autumn 2018)
Linear Regression and Gradient Descent | Lecture 2 (Autumn 2018)
勾配降下法について
勾配ベクトルの意味と例題
https://youtu.be/p7hEoWv7pp4
パラメータの更新方法に納得いってなかったが、勾配ベクトルを分かっていないだけだったNaa_tsure.icon
7. 単回帰分析と重回帰分析
最後の話は重回帰におけるパラメータの求め方
Locally Weighted & Logistic Regression | Stanford CS229: Machine Learning - Lecture 3 (Autumn 2018)
メインはロジスティク回帰の話
最小二乗法は誤差を正規分布と仮定した最尤推定である
回帰直線に正規分布のノイズを加えたものは確率で捉えることが出来る
これの尤度を最大化しようと計算をしていくと、結局最小二乗法とやってることが同じになる
IID
Independently and Identically Distributed の意
同一の確率分布に従う確率変数たちは互いに独立しているということ
ロジスティク回帰の尤度を計算するときになんでY=1とY=0の場合を考えるの？？Naa_tsure.icon
本編51:00-
そもそも尤度を計算するのはパラメータを決定するため
パラメータを決定するには当てはまりの良さを評価してあげればよい
今回であれば、Y=0の時に0、Y=1の時に1である確率が高くなるようなパラメータが良い
そのため、Y=0のときはh(x)を、Y=1のときは1-h(x)を計算に使うのが妥当
これを同時に数式でで表現するために$ P(y|x;Θ)=h(x)^y(1-h(x))^{1-y}としている
#2023/5/1