T5 Khác iFlytek Tuyển sinh viên mới tốt nghiệp
iFLYTEK AI Infra tuyển mới tốt nghiệp
Câu hỏi phỏng vấn iFLYTEK AI Infra tuyển mới tốt nghiệp thật, gồm tính toán hiệu năng cao và các hướng liên quan
Tính toán hiệu năng cao
Kiến thức nền
- Các điểm tối ưu cốt lõi của FlashAttention là gì? Tải QKV theo khối, Online Softmax, và đưa độ phức tạp bộ nhớ từ O(N^2) xuống O(N) lần lượt được làm thế nào?
- Trong Self-Attention, vì sao chia kết quả tích vô hướng cho sqrt(d)? Không scale thì gặp vấn đề gì?
- Nguyên lý triển khai callback function là gì?
- Các cách phổ biến để kiểm tra lỗi vượt biên bộ nhớ GPU?
Kinh nghiệm dự án
- Khảo sát sâu kinh nghiệm dự án.