Ngân hàng câu hỏi tổng hợp
Ngân hàng câu hỏi phỏng vấn AI Infra tổng hợp (6)
Câu hỏi phỏng vấn AI Infra thật, gồm tối ưu suy luận, tối ưu huấn luyện và tối ưu toán tử
Tối ưu suy luận Tối ưu huấn luyện Tối ưu toán tử
Kiến thức CUDA
- Vai trò và nguyên lý CUDA Graph; toàn bộ luồng kernel launch
- Chọn blockSize và gridSize thế nào?
- Default stream là gì? Có vấn đề tiềm ẩn nào?
- Nguyên nhân bank conflict của Shared Memory và cách xử lý
- threadfence làm gì?
- Debug CUDA kernel thế nào?
- Unified Memory khác Zero-Copy Memory ra sao?
- Thuật toán sort trên CUDA hiện thực thế nào?
- Hàm
sinchạy trên đơn vị phần cứng nào của GPU? Đơn vị đó còn hỗ trợ phép nào? - Đặc điểm kiến trúc Volta; khái niệm ITS (Independent Thread Scheduling)
- Shared Memory tối đa một block trên 3090 là bao nhiêu?
- PTX khác SASS thế nào?
- Chỉ số xx TFLOPS ghi trên GPU được tính ra sao?
Kiến thức C++
- Cơ chế hàm ảo; bố cục bộ nhớ với đơn kế thừa, đa kế thừa, kế thừa ảo
- Bốn kiểu cast (
static_cast/dynamic_cast/const_cast/reinterpret_cast): cách dùng và khác biệt - Ba smart pointer (
unique_ptr/shared_ptr/weak_ptr): khi nào dùng - Khai báo và định nghĩa function template có tách file được không?
- CRTP hiện thực đa hình tĩnh thế nào?
- Cơ chế mở rộng của
vector;resizekhácreserve - Cách hiện thực singleton
Bài CUDA
- Reduction tổng
- Softmax
- Transpose ma trận
- Average pooling
- IoU của hai nhóm BBox
Bài C++
- NMS (non-maximum suppression)
- Conv2D
- Nội suy bilinear
- LayerNorm
- Singleton