圖像分類問題

光影變化

自身變形 (動物動作會改變)

遮擋

跟背景近似的顏色

個體不同( 例如 貓有不同毛色)

我們很難靠 演算法 + 特徵 去辨識每個種類
因此只有靠機器自行學習

KNN

L1

$d_1(I_1,I_2)=\sum_P|I^P_1-I^P_2|$

L2

$d_2(I_1,I_2)=\sqrt{\sum_P(I^P_1-I^P_2)^2}$

KNN 的問題

1. 預測運算慢

2. L1 L2 無法很好評估圖片

3. 維度災難

線上範例

http://vision.stanford.edu/teaching/cs231n-demos/knn/

Linear

Classification

$f = Wx + b$

Hyperparameters

超參數

是指不能從資料中學到的參數
例如 KNN 中的 k 或 距離 function

如何選擇這些超參數

如果選定了模型，可以重新在整個訓練集上訓練，會增加一些正確率