Chuyển đến nội dung chính
T3 Chip và phần cứng Phytium Thực tập Vòng 1

Phytium AI Infra thực tập vòng 1

Câu hỏi phỏng vấn AI Infra thực tập vòng 1 tại Phytium thật, gồm tối ưu suy luận và tối ưu toán tử

Tối ưu suy luận Tối ưu toán tử

Kiến thức nền

  1. Khác biệt cốt lõi giữa process và thread là gì? Cấu trúc phân cấp Cache và các chiến lược thay thế phổ biến gồm những gì?
  2. Trong chuẩn số thực IEEE, FP16, FP32, FP64 phân bổ bit width thế nào?
  3. Quy trình thực thi của quicksort là gì? Tính chất cơ bản của heap gồm những gì? Topological sort phù hợp kịch bản nào?

Tối ưu suy luận và toán tử

  1. Trình bày đặc điểm cấu trúc Decoder-only trong kiến trúc Transformer, gồm quá trình sinh QKV và thời điểm gắn positional encoding.
  2. Công thức RMSNorm là gì? Đặc tính tính toán và truy cập bộ nhớ ra sao? Có thể tối ưu theo góc nhìn nào (ví dụ cân bằng tải, Double Buffer, thay lệnh)?
  3. Xử lý vấn đề ổn định số của Softmax thế nào? Nguyên lý triển khai Online Softmax là gì?
  4. Chiến lược tối ưu bộ nhớ cho toán tử fuse nhân ma trận với dequant gồm những gì?
  5. Trong phép SpMV trên ma trận thưa, làm thế nào để cân bằng tải và tối ưu bandwidth?

Kinh nghiệm dự án

  1. Đào sâu dự án.

Công cụ và kỹ thuật

  1. Trong Git, các cách kéo nhánh remote gồm những gì? fetch+checkout khác pull thế nào?