T1 Công ty lớn và kỳ lân Xiaomi Tuyển sinh viên mới tốt nghiệp Vòng 1
Xiaomi AI Infra tuyển mới tốt nghiệp vòng 1
Câu hỏi phỏng vấn tuyển mới tốt nghiệp AI Infra tại Xiaomi vòng một thật, gồm tối ưu suy luận
Tối ưu suy luận
Vòng 1
Tối ưu suy luận
- Giới thiệu chi tiết kỹ thuật cốt lõi của Fastllm.cpp.
- Vai trò và nguyên lý thiết kế của PagedAttention.
- Quy trình thuật toán FlashAttention.
- Nguyên lý cơ bản của quantization mô hình và các phương án phổ biến.
Vòng 2
Kinh nghiệm dự án
- Giới thiệu sâu dự án và thảo luận chi tiết kỹ thuật.