T4 Ô tô và xe tự lái NIO Thực tập Vòng 1
NIO AI Infra thực tập vòng một (2)
Câu hỏi phỏng vấn NIO AI Infra thực tập vòng một thật, gồm tối ưu suy luận, tối ưu toán tử và các hướng liên quan
Tối ưu suy luận Tối ưu toán tử
Bài lập trình
- Viết tay CUDA kernel: reduce_sum
- Viết tay CUDA kernel: conv2d
- Viết tay một custom kernel liên quan thực tập
- C++ triển khai circular buffer
- C++ triển khai bubble sort trên danh sách liên kết đơn
Tối ưu suy luận
- Giới thiệu tổng thể công việc tối ưu CUDA trong thực tập
- Thảo luận nội dung suy luận mô hình lớn (vLLM, quantization mô hình, v.v.)