T1 Công ty lớn và kỳ lân Meituan Vòng 1
Meituan AI Infra vòng một
Câu hỏi phỏng vấn AI Infra tại Meituan vòng một thật, gồm tối ưu suy luận và tối ưu toán tử
Tối ưu suy luận Tối ưu toán tử
Ghi chú nội dung khảo sát vòng một và vòng hai AI Infra tại Meituan.
Đào sâu dự án
- Hỏi sâu mọi dự án trên CV, tập trung chi tiết và triển khai kỹ thuật
Lý thuyết
- Ưu nhược điểm của kiến trúc Decoder-only và Encoder-only
- Phác thảo các đặc điểm thiết kế chính của LLaMA
- Khái niệm cơ bản và cấu trúc phân cấp của mô hình lập trình CUDA
- Mô hình bộ nhớ CUDA gồm những tầng nào, đặc điểm mỗi tầng
- Khi dùng shared memory xử lý bank conflict thế nào, có chiến lược tránh nào
- Khi dùng register có thể gặp vấn đề gì (ví dụ register spilling), xử lý thế nào
- Lập lịch đa luồng GPU khác bản chất đa luồng CPU ở điểm nào
- Trình bày nguyên lý cốt lõi của Flash Attention
- Trình bày ý tưởng thiết kế và cơ chế hoạt động của Paged Attention