T0 Công ty lớn Alibaba Thực tập
Alibaba AI Infra thực tập (1)
Câu hỏi phỏng vấn Alibaba AI Infra thực tập thật, gồm AI Infra và các hướng liên quan
Kiến thức nền
- Trình bày khác biệt cốt lõi giữa MHA, GQA và MLA cùng tình huống phù hợp từng loại.
- Với quá trình huấn luyện mô hình MoE và mô hình đa phương thức, hiện còn hướng tối ưu nào?
- Ở tầng thực hành kỹ thuật, pretrain mô hình lớn và huấn luyện reinforcement learning còn những khâu đáng tối ưu nào?
Kinh nghiệm dự án
- Giới thiệu chi tiết kinh nghiệm dự án, nhấn mạnh phương án kỹ thuật và chi tiết triển khai.
Bài lập trình
- Triển khai duyệt cây nhị phân theo tầng.
- Viết tay Multi-Head Attention.