T1 Công ty lớn và kỳ lân JD.com Tuyển sinh viên mới tốt nghiệp Vòng 1
JD.com AI Infra tuyển dụng campus vòng một
Câu hỏi phỏng vấn tuyển dụng campus AI Infra tại JD.com vòng một thật, gồm tối ưu suy luận
Tối ưu suy luận
Tối ưu suy luận
- Tối ưu suy luận mô hình lớn có những phương pháp phổ biến nào? Trình bày theo nhiều chiều.
- Nguyên lý lõi và tư duy thiết kế của PagedAttention là gì?
- Vì sao FlashAttention tăng tốc được? Quá trình tính toán ra sao?
- Trong cơ chế PD disaggregation, hàng đợi lập lịch được triển khai thế nào?
- Chunked Prefill là Prefill và Decode của cùng một request xen kẽ, hay chèn giữa các request khác nhau?
Kiến thức nền
- Polymorphism trong C++ được thực hiện thế nào?
- Cơ chế cụ thể của polymorphism qua virtual function là gì? Thứ tự hàm trong bảng virtual được xác định ra sao?
Kinh nghiệm dự án
- Khảo sát sâu kinh nghiệm dự án.
Bài lập trình
- Triển khai thuật toán quicksort.