T2 Kỳ lân AI Zhipu AI Thực tập Vòng 1
Zhipu AI Infra thực tập vòng 1
Câu hỏi phỏng vấn AI Infra thực tập vòng 1 tại Zhipu thật, gồm tối ưu suy luận
Tối ưu suy luận
Kiến thức nền
- Trình bày sự khác nhau giữa ba độ hạt lượng tử hóa per-tensor, per-channel và per-group. Độ hạt nào mịn nhất?
- Khác biệt cốt lõi giữa hiệu chuẩn minmax và percentile là gì?
- Ngoài minmax và percentile, còn những thuật toán hiệu chuẩn phổ biến nào? Tóm tắt nguyên lý cơ bản của hiệu chuẩn KL divergence và MSE.
- Giải thích độ hạt lượng tử hóa của SmoothQuant cùng nguyên lý hoạt động, và so sánh quy trình với AWQ, GPTQ.
- Nguyên lý lượng tử hóa NV FP4 là gì? Scale factor tính trên chiều nào? Định dạng lưu trữ thiết kế ra sao?
- Trong triển khai thực tế, các định dạng mục tiêu lượng tử hóa phổ biến là gì? So sánh kịch bản phù hợp của FP8 và NV FP4.
Kinh nghiệm dự án
- Giới thiệu trải nghiệm dự án thực tập của bạn.
Bài lập trình
- Lần lượt triển khai thuật toán hiệu chuẩn minmax và percentile.