T0 Công ty lớn Alibaba Vòng 1
Alibaba AI Infra vòng một (2)
Câu hỏi phỏng vấn Alibaba AI Infra vòng một thật, gồm tính toán hiệu năng cao và các hướng liên quan
Tính toán hiệu năng cao
Kiến thức nền
- Mô tả toàn bộ quy trình huấn luyện Qwen-VL.
- Trong mô hình lớn đa phương thức, đưa đặc trưng thị giác vào LLM có những cách phổ biến nào?
- ViT thường pretrain bằng cách nào?
- Với ảnh hoặc video kích thước khác nhau, positional encoding nên thiết kế thế nào?
- Vai trò residual connection trong ResNet hoặc Transformer? Phân tích rộng hơn.
- Giới thiệu ý tưởng cơ bản và phương án triển khai multimodal RAG.
Kinh nghiệm dự án
- Tự giới thiệu và nói chi tiết kinh nghiệm dự án.
- Tóm tắt quy trình huấn luyện mô hình lớn.
Câu hỏi mở
- Khi thiếu bộ nhớ GPU trong huấn luyện hoặc suy luận, có những phương án tối ưu nào?
Bài lập trình
- Phần tử lớn thứ K trong mảng (LeetCode 215).