Regularization - Week_3_part2
Solving the Problem of Overfitting The Problem of Overfitting 我們在使用hypothesis function在擬合y的值的時候,會有三種狀況發生分別如下面圖所示: 最左邊的是underfitting的狀況,中間是擬合剛好的狀況,最右邊是overfitting的狀況。uderfitting也稱之為high bias的狀況,就是hypothesis並沒有適當的擬合資料的趨勢。是因為擬合的函示太過簡單或者是因為使用太少的特徵。而overfitting也稱之為high variance,其hypothesis是可以擬合目前所取得的資料集,但卻沒辦法一般化(generalized)到新的資料,是因為其擬合函數太過複雜導致有著跟資料無相關的曲線和角度。 上述這三種狀況都適用於linear regression 和 logistic regression,下面提出一些方法來避免發生overfitting的狀況: 減少特徵(feature)的數量: 手動挑選那些特徵需要留下 使用model去挑選演算法 正規化: 保留所有的特徵,但是減少了 參數θ j 的magnitude 正規化一樣也可以運作得很好,當我們有一些有用的特徵時。 -------------------------------------------------------------------------------------------------------------------------- Cost Function 如果我們過度擬合我們的hypothesis function,我們可以利用減少hypothesis function裡面項目的權重來減少他們對hypothesis function的影響,如下圖所示: 要是想其cost function不受到過度擬合的影響,可以在cost function裡面加上正規化項,來最小化其 theta parameter,其數學式如下方: -----------------------------------------------------------...