Chuyển đến nội dung chính
T1 Công ty lớn và kỳ lân Kuaishou Thực tập Vòng 1

Kuaishou AI Infra thực tập vòng một (2)

Câu hỏi phỏng vấn thực tập AI Infra tại Kuaishou vòng một thật, gồm tối ưu suy luận và tối ưu toán tử

Tối ưu suy luận Tối ưu toán tử

Lý thuyết

  1. Cơ chế PagedAttention trong vLLM là gì? Chunked Prefill triển khai thế nào? Continuous Batching là gì và tác dụng ra sao?

Đào sâu dự án

  1. Tối ưu toán tử trong framework suy luận cụ thể dùng phương pháp nào?
  2. Ý tưởng thiết kế và xây Memory Pool là gì?
  3. Phương án test framework thiết kế thế nào? Quy mô dữ liệu test bao lớn?

Lập trình tại chỗ

  1. Cho mảng 2D mỗi hàng đã sắp, tìm phần tử nhỏ thứ K.