T3 Chip và phần cứng Phytium Tuyển sinh viên mới tốt nghiệp Vòng 2
Phytium AI Infra tuyển dụng campus vòng 2
Câu hỏi phỏng vấn AI Infra tuyển dụng campus vòng 2 tại Phytium thật, gồm tối ưu suy luận, tối ưu huấn luyện và tối ưu toán tử
Tối ưu suy luận Tối ưu huấn luyện Tối ưu toán tử
Kiến thức nền
- Cơ chế triển khai tầng dưới của hàm ảo C++ là gì? Bảng hàm ảo (vtable) hoạt động thế nào?
- Quá trình biên dịch gồm bốn giai đoạn nào? Mỗi giai đoạn làm gì?
- Các design pattern phổ biến gồm những gì? Nêu kịch bản áp dụng của singleton và factory.
- Multi-process và multi-thread khác nhau chủ yếu ở điểm nào?
Tối ưu toán tử và GPU
- Với tối ưu toán tử theo shape cụ thể, lập chiến lược thế nào để vượt hiệu năng thư viện chính thức?
- Tư duy thiết kế fused operator là gì?
- Huấn luyện và suy luận mixed precision liên quan những vấn đề then chốt nào?
- Trong tối ưu hiệu năng GPU, dùng toolchain Nsight thế nào? Nên theo dõi chỉ số hiệu suất tính toán và bandwidth nào?
Tối ưu suy luận
- Nguyên lý hoạt động của KV Cache là gì? Tư tưởng lõi tối ưu bộ nhớ của FlashAttention là gì?