Chuyển đến nội dung chính
T1 Công ty lớn và kỳ lân Kuaishou Thực tập Vòng 1

Kuaishou AI Infra thực tập vòng một (1)

Câu hỏi phỏng vấn thực tập AI Infra tại Kuaishou vòng một thật, gồm tối ưu suy luận và tối ưu toán tử

Tối ưu suy luận Tối ưu toán tử

Tối ưu suy luận

  1. Giới thiệu nguyên lý lượng tử hóa mô hình và FlashAttention; thực tế tối ưu hiệu quả ra sao?
  2. Nguyên lý tăng tốc tầng dưới của TensorRT là gì?
  3. Bạn có biết framework vLLM không? Ý tưởng thiết kế PagedAttention là gì?
  4. Deploy Qwen chiếm bao nhiêu VRAM? Trong kỳ thực tập dùng phương án deploy nào?

Lý thuyết

  1. PyTorch có những chức năng nền tảng cốt lõi nào? Đã dùng PyTorch quản lý tài nguyên GPU chưa?
  2. Train và suy luận khác nhau thế nào về tiêu thụ tài nguyên? Trong train có những cách tối ưu hiệu năng nào?
  3. Khái niệm cơ bản của GPU và CUDA là gì? Đơn vị thực thi vật lý cơ bản nhất trên GPU là gì?

Đào sâu dự án

  1. Giới thiệu dự án lab; giải thích cách tính số tham số và lượng tính của mô hình.
  2. Giới thiệu nội dung thực tập và hiểu biết về vị trí.

Lập trình tại chỗ

  1. Chuyển mảng đã sắp thành BST cân bằng.