T2 Kỳ lân AI SenseTime
SenseTime AI Infra phỏng vấn
Câu hỏi phỏng vấn SenseTime AI Infra, gồm tối ưu toán tử
Tối ưu toán tử
Dưới đây là nội dung khảo sát phỏng vấn SenseTime AI Infra, chủ yếu đào sâu dự án.
Kinh nghiệm dự án (tối ưu GEMM)
- Mô tả chi tiết quá trình triển khai tối ưu GEMM
- Vì sao một thread tính 8x8 phần tử của ma trận C
- Thanh ghi có thể bị spill không, xử lý thế nào
- Dự án có điểm đổi mới của riêng bạn không
- Vai trò và tình huống dùng của
#pragma unroll - Trong một tile thực hiện bao nhiêu lần tính toán
- So với cuTLASS, bản tự viết hiệu năng ra sao
Kiến thức cơ bản
- Đã từng tối ưu toán tử convolution chưa
- Có biết PPL (thư viện HPC của SenseTime) không
- Nguyên lý và cách dùng Tensor Core
- Có kinh nghiệm phát triển GEMM low-bit không