Tầng 5 — Probability

Xác suất & thống kê: nền cho MLE, cross-entropy, KL divergence — backbone của classification và LLM.

Tầng này dạy gì?

ML không có xác suất là không có gì. Mọi loss function của classification và LLM đều xuất phát từ MLE và cross-entropy. Tầng này dạy bạn cách dẫn được những thứ đó từ tiên đề xác suất.

Lộ trình 8 bài — học tuần tự

Lesson 01
Không gian mẫu, biến cố, các tiên đề Kolmogorov, đếm.
Lesson 02
P(A|B), Bayes' theorem, ứng dụng (medical test, spam filter).
Lesson 03
PMF; Bernoulli, Binomial, Poisson.
Lesson 04
PDF, CDF, đổi biến; Uniform, Exponential.
Lesson 05
Gaussian: μ, σ²; CLT (định lý giới hạn trung tâm).
Lesson 06
E[X], Var[X], Cov(X,Y), correlation.
Lesson 07
Maximum Likelihood Estimation — argmax log-likelihood.
Lesson 08
Loss của classification và LLM; entropy và information.