T2 Kỳ lân AI Megvii Tuyển sinh viên mới tốt nghiệp
Megvii AI Infra tuyển mới tốt nghiệp
Câu hỏi phỏng vấn tuyển mới tốt nghiệp AI Infra tại Megvii thật, gồm tối ưu toán tử và tính toán hiệu năng cao
Tối ưu toán tử Tính toán hiệu năng cao
Kinh nghiệm dự án
- File mô hình LLaMA (.bin) được tiền xử lý những gì?
- Mô hình tách nhiều file .bin hay chỉ một?
- Mọi layer khởi tạo thế nào?
- Dữ liệu trên CPU copy sang GPU thế nào?
- Quy trình gọi forward của mô hình?
- Giới thiệu chi tiết hướng tiếp cận và quá trình tối ưu toán tử.
- Phương án quản lý bộ nhớ thiết kế thế nào?
- Memory pool VRAM dùng cấu trúc dữ liệu gì?
Liên quan paper
- Thảo luận sâu quanh paper liên quan.
Bài lập trình
- 3Sum.