T0 Công ty lớn Alibaba Thực tập Vòng 2
Alibaba Cloud AI Infra thực tập vòng hai (2)
Câu hỏi phỏng vấn Alibaba AI Infra thực tập vòng hai thật, gồm tối ưu suy luận và các hướng liên quan
Tối ưu suy luận
Kiến thức nền
- vLLM dùng những kỹ thuật tối ưu cốt lõi nào? Nói nguyên lý từng cái.
- Nguyên lý mô hình Logistic regression? Hàm mất mát suy ra thế nào?
- DeepSeek-MTP dùng ở giai đoạn huấn luyện hay suy luận? Mô tả quy trình làm việc cụ thể.
- Trước một tập dữ liệu chuỗi thời gian, dùng machine learning để lấy đặc trưng then chốt rồi kết hợp phương pháp rule để hoàn tất mô hình hóa thế nào?
Câu hỏi mở
- Trong điều kiện hạn chế compute, dùng distillation từ mô hình lớn ra mô hình nhỏ quy mô ~3B tham số thế nào?
- Dựa trên mô hình lớn hiện có, dùng kỹ thuật liên quan Agent để huấn luyện một Coder viết được code lĩnh vực tài chính thế nào?