System design & khả năng mở rộng
Ba mô-đun: (1) caching — kéo hit-rate xem latency & tải DB; (2) load balancer phân phối request tới N server; (3) back-of-envelope calculator ước tài nguyên.
1 · Mô phỏng caching — hit-rate đổi latency & tải DB
Cache RAM ~1 ms, DB ~50 ms. Kéo tỷ lệ cache hit để xem latency trung bình và phần tải dồn vào DB.
Latency trung bình
—
Tăng tốc so với không cache
—
Request chạm DB
—
2 · Load balancer — phân phối round-robin tới N server
Bấm "▶ Gửi 12 request" để xem LB chia đều theo round-robin. Thêm/bớt server và quan sát tải mỗi máy.
Có 3 server. Bấm Gửi để phân phối.
3 · Back-of-envelope — ước QPS & số server
Nhập DAU và số request mỗi user/ngày. QPS đỉnh ≈ 3× QPS trung bình (giờ cao điểm).
| Tổng request / ngày | — |
| QPS trung bình | — |
| QPS đỉnh (×3) | — |
| Số server cần (+1 dự phòng) | — |