T0 Công ty lớn Baidu Vòng 1
Baidu AI Infra vòng một (2)
Câu hỏi phỏng vấn AI Infra tại Baidu vòng một thật, gồm tối ưu suy luận và tối ưu toán tử
Tối ưu suy luận Tối ưu toán tử
Vòng một
Đào sâu dự án
- Giới thiệu nội dung cốt lõi và phương án kỹ thuật của dự án
Lý thuyết
- Cách triển khai và tối ưu GEMM trong CUDA
Lập trình tại chỗ
- Triển khai CUDA kernel cộng vector
Vòng hai
Lý thuyết
- Khi deploy suy luận LLM có những kỹ thuật tối ưu phổ biến nào?
- Chuyển đổi giữa Float32 và INT8 (lượng tử hóa mô hình) thế nào?
Lập trình tại chỗ
- Dãy con chung dài nhất (LeetCode 1143)