T0 Công ty lớn ByteDance Thực tập Vòng 2
ByteDance Doubao AI Infra thực tập vòng 2
Câu hỏi phỏng vấn vòng 2 thực tập AI Infra tại ByteDance thật, gồm tối ưu suy luận và tối ưu huấn luyện
Tối ưu suy luận Tối ưu huấn luyện
Kiến thức nền
- Vì sao kiến trúc decoder-only trở thành lựa chọn mainstream của mô hình lớn hiện nay?
- Cấu trúc mô hình Qwen2 thế nào? So với Qwen1 cải thiện gì?
- Ý tưởng cốt lõi của PPO và DPO lần lượt là gì?
- Vì sao sau SFT vẫn cần giai đoạn RLHF?
Tối ưu suy luận
- Hiện có những phương pháp tối ưu train và suy luận mô hình phổ biến nào?
Kinh nghiệm dự án
- Giới thiệu dự án thực tập và nội dung nghiên cứu paper.
Bài lập trình
- Gộp K linked list tăng dần (LeetCode 23).