T2-L01 — KNN & Decision Tree
KNN classifier · Entropy calculator · Decision Tree builder (Play Tennis)
1. KNN — 2D Classification
Click canvas để thêm điểm trắng (test point). Kéo slider k để xem boundary thay đổi. Click "Reset" để thêm dataset mới.
Thử: kéo k = 1 — biên răng cưa ôm từng điểm nhiễu; k = 25 — biên mượt nhưng nuốt cụm nhỏ: k là nút vặn bias–variance.
Click vào canvas để đặt điểm test và xem KNN predict.
2. Entropy & Information Gain Calculator
H(S) = −Σ pᵢ · log₂(pᵢ)
H = ? bit
3. Information Gain — Play Tennis
Root entropy H(S)=0.940 bit (9 Yes, 5 No). IG của từng feature:
4. Decision Tree — Play Tennis (step-by-step)
Nhấn "Next split" để thêm từng nhánh của cây theo thuật toán ID3.
Nhấn "Next split" để bắt đầu xây cây từ root.