System design & khả năng mở rộng

Ba mô-đun: (1) caching — kéo hit-rate xem latency & tải DB; (2) load balancer phân phối request tới N server; (3) back-of-envelope calculator ước tài nguyên.

1. Mô phỏng caching — hit-rate đổi latency & tải DB

Cache RAM ~1 ms, DB ~50 ms. Kéo tỷ lệ cache hit để xem latency trung bình và phần tải dồn vào DB.

Thử: kéo hit-rate 0% → 95% — tải DB rơi 20 lần, latency trung bình rơi theo: cache là đòn bẩy rẻ nhất của scale.

Latency trung bình
—
Tăng tốc so với không cache
—
Request chạm DB
—
Không cache
Có cache

2. Load balancer — phân phối round-robin tới N server

Bấm "▶ Gửi 12 request" để xem LB chia đều theo round-robin. Thêm/bớt server và quan sát tải mỗi máy.

3. Back-of-envelope — ước QPS & số server

Nhập DAU và số request mỗi user/ngày. QPS đỉnh ≈ 3× QPS trung bình (giờ cao điểm).

Tổng request / ngày—
QPS trung bình—
QPS đỉnh (×3)—
Số server cần (+1 dự phòng)—