Lesson 06 — Ma trận xoay 2D/3D (Rotation Matrix)
Công cụ tương tác: kéo slider xoay vector, ghép 2 phép xoay, quan sát ma trận xoay 3D, và RoPE demo — kỹ thuật được dùng trong LLM hiện đại (Llama, Mistral, Gemma).
1. 2D Rotation Playground — Kéo góc, xoay tức thì
Vector ban đầu màu xanh, vector sau khi xoay màu cam. Kéo slider θ để xoay. Ma trận R(θ) và tọa độ mới hiển thị bên phải.
2. Two-Rotation Composition R(α)·R(β) = R(α+β)
Xoay vector bởi θ₁ rồi bởi θ₂. So với xoay 1 phát góc θ₁ + θ₂. Hai mũi tên kết quả luôn trùng nhau — đó là nội dung của tính chất R(α)·R(β) = R(α+β).
v ban đầu. Tím: sau R(θ₁). Đỏ chấm: sau R(θ₂)·R(θ₁)·v. Vàng nét đứt: R(θ₁+θ₂)·v.3. 3D Rotation Visualizer orthographic projection
Chọn trục xoay (X / Y / Z) và góc. Ma trận 3×3 sẽ hiển thị; áp dụng cho vector v. Hình chiếu 2D dùng ortho projection đơn giản (x sang phải, z lên, y theo chéo).
4. RoPE Demo — Attention chỉ phụ thuộc hiệu vị trí
Có 2 vector q và k. RoPE xoay q theo vị trí m (góc m·θ), xoay k theo vị trí n (góc n·θ). Attention score = dot product sau xoay.
Bảng dưới so các cặp (m, n) khác nhau nhưng cùng hiệu: score giống nhau!
n − m hiện tại — toàn bộ ra cùng score:| m | n | n−m | q' | k' | q'·k' |
|---|