T4 Ô tô và xe tự lái Pony.ai Thực tập
Pony.ai AI Infra thực tập
Câu hỏi phỏng vấn thực tập AI Infra tại Pony.ai thật, gồm tối ưu toán tử và tính toán hiệu năng cao
Tối ưu toán tử Tính toán hiệu năng cao
Kiến thức cơ bản
- CUDA Graph là gì? Vì sao dùng CUDA Graph tốn thêm VRAM? Giai đoạn nào trong suy luận phù hợp CUDA Graph hơn?
- Trình bày khái niệm cốt lõi của mô hình máy PTX trên NVIDIA GPU.
- Mô tả quy trình biên dịch đầy đủ của code CUDA.
- Giới thiệu mục tiêu thiết kế của khung MLIR; vì sao cần MLIR?
Tính toán hiệu năng cao
- Giải thích cách giao tiếp giữa các Block và các primitive cấp Warp. Liệt kê các Warp primitive thường dùng và mô tả chức năng.
Bài lập trình
- Hiện thực thuật toán merge sort.