Chuyển đến nội dung chính
T1 Công ty lớn và kỳ lân Meituan Tuyển sinh viên mới tốt nghiệp

Meituan Beidou AI Infra tuyển mới tốt nghiệp

Câu hỏi phỏng vấn tuyển mới tốt nghiệp AI Infra tại Meituan thật, gồm tối ưu suy luận, tối ưu toán tử và tính toán hiệu năng cao

Tối ưu suy luận Tối ưu toán tử Tính toán hiệu năng cao

Nội dung khảo sát phỏng vấn tuyển mới tốt nghiệp AI Infra Meituan Beidou.

Lý thuyết

  1. Trình bày kiến trúc tổng thể Transformer, và lợi thế so với RNN cổ điển
  2. Tham số Transformer chủ yếu nằm ở module nào? Phần nào nhiều tham số nhất? Phần nào nhiều tính toán nhất, vì sao
  3. Nêu khác biệt CUDA Core và Tensor Core trên GPU; liệt kê GPU phổ biến kèm dung lượng VRAM và băng thông
  4. Giới thiệu nguyên lý cơ bản lượng tử hóa mô hình lớn, và mô tả cách triển khai toán tử lượng tử hóa
  5. Nêu chi tiết ý tưởng thiết kế tách Prefill-Decode (PD disaggregation)
  6. Nêu chi tiết cơ chế hoạt động của Paged Attention

Lập trình tại chỗ

  1. LeetCode 25: đảo linked list theo nhóm K
  2. Viết toán tử CUDA: phiên bản cơ bản prefix sum, và nêu hướng tối ưu khả thi
  3. Viết toán tử CUDA: phiên bản cơ bản GEMM, và nêu hướng tối ưu khả thi