T1 Công ty lớn và kỳ lân OPPO Thực tập Vòng 1
OPPO Cloud AI Infra thực tập vòng một
Câu hỏi phỏng vấn thực tập OPPO AI Infra vòng một thật, gồm tối ưu suy luận và tối ưu toán tử
Tối ưu suy luận Tối ưu toán tử
Hỏi về dự án
- Giới thiệu ngắn các dự án liên quan bạn đã tham gia
Lý thuyết
- Gặp framework suy luận LLM chưa từng dùng, làm sao hiểu và dùng nhanh?
- Khi chuyển đổi độ chính xác kiểu dữ liệu, giữ ổn định số học thế nào?
- Cách chia Warp/Block liên hệ thế nào với mô hình thực thi SIMT?
Tình huống mở
- Là tech lead, cần tối ưu dịch vụ suy luận mô hình CV trên cloud: tăng throughput mỗi card và giảm latency. Bạn triển khai tối ưu thế nào?