T4 Ô tô và xe tự lái Zhuoyu Tuyển sinh viên mới tốt nghiệp Vòng 1
Zhuoyu AI Infra tuyển sinh viên vòng một
Câu hỏi phỏng vấn Zhuoyu AI Infra tuyển sinh viên vòng một, gồm tối ưu suy luận, tối ưu toán tử và tính toán hiệu năng cao
Tối ưu suy luận Tối ưu toán tử Tính toán hiệu năng cao
Tối ưu toán tử
- Từ profiling đến đưa vào production, quy trình tối ưu toán tử đầy đủ là gì? Làm sao phân biệt toán tử memory-bound hay compute-bound?
- Các công cụ profiling thường dùng là gì? Nsight Systems có hỗ trợ phân tích pipeline cấp lệnh không?
- Khi mức sử dụng warp thấp, làm sao quy kết nguyên nhân? Vấn đề mất cân bằng tải giải quyết thế nào?
- Ascend NPU và NVIDIA GPU khác nhau thế nào về kiến trúc? Bộ nhớ phân tầng được thiết kế ra sao?
Kiến thức cơ bản
- Đa tiến trình và đa luồng khác nhau thế nào về hiệu năng?
- Khi kết quả mô hình lệch kỳ vọng, làm sao điều tra? Xử lý tích lũy sai số thế nào?
Tối ưu suy luận
- Nguyên lý của các tối ưu cấp mô hình như KV Cache, fusion toán tử và lượng tử hóa lần lượt là gì?
Kinh nghiệm dự án
- Hãy giới thiệu sâu kinh nghiệm dự án của bạn.