Chuyển đến nội dung chính
T4 Ô tô và xe tự lái NIO Thực tập Vòng 1

NIO AI Infra thực tập vòng một (2)

Câu hỏi phỏng vấn NIO AI Infra thực tập vòng một thật, gồm tối ưu suy luận, tối ưu toán tử và các hướng liên quan

Tối ưu suy luận Tối ưu toán tử

Bài lập trình

  1. Viết tay CUDA kernel: reduce_sum
  2. Viết tay CUDA kernel: conv2d
  3. Viết tay một custom kernel liên quan thực tập
  4. C++ triển khai circular buffer
  5. C++ triển khai bubble sort trên danh sách liên kết đơn

Tối ưu suy luận

  1. Giới thiệu tổng thể công việc tối ưu CUDA trong thực tập
  2. Thảo luận nội dung suy luận mô hình lớn (vLLM, quantization mô hình, v.v.)