Megvii AI Infra thực tập vòng 1

Kiến thức cơ bản

1. Giới thiệu cơ chế cốt lõi và đặc điểm của khung suy luận vLLM.

Kinh nghiệm dự án

2. Giới thiệu công việc trong kỳ thực tập, nhấn mạnh thực hành tối ưu toán tử CUDA.
3. Trình bày bối cảnh kỹ thuật và công việc chính của dự án.
4. Trong dự án đã tối ưu toán tử CUDA những gì? Biện pháp cụ thể?

Bài lập trình

5. Tìm nút thứ K từ cuối danh sách liên kết.