ByteDance AI Infra tuyển sinh viên (1)

Tối ưu suy luận

1. Các phương pháp tăng tốc suy luận mô hình lớn phổ biến là gì?
2. Có những kỹ thuật nén mô hình và lượng tử hóa nào? Lợi thế chính của lượng tử hóa nằm ở đâu?
3. Lượng tử hóa trọng số, activation và KV Cache lần lượt mang lại lợi ích gì?
4. Nguyên lý KV Cache là gì? Vì sao PagedAttention cải thiện hiệu quả?
5. Cơ chế Prefix Cache là gì? Phù hợp kịch bản nào?
6. Xây một ứng dụng AI Agent, đại khái cần những module cốt lõi nào?

Kinh nghiệm dự án

7. Hãy đào sâu kinh nghiệm dự án của bạn.

Bài lập trình

8. Một vòng có 10 nút (đánh số 0-9), xuất phát từ nút 0, mỗi bước đi một nút theo chiều kim đồng hồ hoặc ngược chiều, tìm tổng số cách đi khác nhau sau n bước quay về nút 0.