T2 Kỳ lân AI MiniMax Vòng 1
MiniMax AI Infra vòng một
Câu hỏi phỏng vấn MiniMax AI Infra vòng một thật, gồm tối ưu huấn luyện
Tối ưu huấn luyện
Lý thuyết
- RAG là gì? Nó cải thiện chất lượng sinh bằng cách nào? Phương án RAG chuẩn thường thiếu gì? Khác pipeline “retrieve rồi generate” cổ điển ở điểm căn bản nào?
- Quy trình chính của SFT là gì? Dataset train thường được xây và lọc thế nào?
- Từ góc toán, ý nghĩa cốt lõi của Attention trong Transformer là gì?
- Bạn có biết kỹ thuật Agent không? Đóng RAG thành Agent mang lại lợi ích gì?
- Đánh giá hệ thống RAG một cách hệ thống thế nào? Có chỉ số hoặc benchmark chuẩn nào?
- LoRA hoạt động thế nào? Lúc infer, mô hình fine-tune LoRA còn cần load Adapter riêng không?
- PPO và DPO khác nhau cốt lõi thế nào khi align LLM? Train bằng DPO cần lưu ý gì?
- Đã dùng GRPO chưa? Nêu ngắn gọn.
- Trong Agent hội thoại nhiều vòng, Attention bộc lộ hạn chế gì?
- Sau SFT, Post-Training thường gồm những phương pháp nào (như RLHF)? Mỗi cái tối ưu mục tiêu gì?
- Fine-tune Qwen thì chọn chiến lược giai đoạn train thế nào? Loss được thiết kế dựa trên cân nhắc nào?
- Tính năng gợi ý Prompt tự động được tối ưu ra sao? Đã thử nén Prompt hoặc biểu diễn Embedding để tăng hiệu quả chưa?
Đào sâu dự án
- Cơ chế lập lịch gọi tool thiết kế thế nào? Hệ thống có Fallback khi lỗi không?
- Modular Agent trong dự án làm multi-step planning bằng cách nào?
- Hệ đánh giá Agent gồm những mặt nào? Chất lượng planning và tần suất hallucination đo thế nào?
Tình huống mở
- Luồng suy luận Agent lần lượt gọi 3 tool ngoài, concurrency cao làm latency end-to-end cao. Bạn dùng biện pháp kỹ thuật nào để giảm latency?
Lập trình tại chỗ
- Dùng PyTorch viết logic tính loss trong SFT (chú ý căn chỉnh label shift right)