T1 Công ty lớn và kỳ lân Kuaishou Tuyển sinh viên mới tốt nghiệp
Kuaishou AI Infra tuyển mới tốt nghiệp (3)
Câu hỏi phỏng vấn tuyển mới tốt nghiệp AI Infra tại Kuaishou thật, gồm tối ưu suy luận và tối ưu toán tử
Tối ưu suy luận Tối ưu toán tử
Vị trí này hướng tối ưu trên nền tảng dị chủng NV và AMD, liên quan AI compiler, deploy mô hình và tối ưu suy luận, tối ưu toán tử, sinh toán tử hiệu năng cao, TVM, Triton, tối ưu đồ thị, lượng tử hóa, v.v.
Trách nhiệm công việc
- Tham gia thiết kế phương án kỹ thuật và phát triển dự án AI compiler; dùng tối ưu tính song song, thiết kế kiến trúc, tối ưu thưa và lập lịch dị chủng trên CPU, GPU, DSP, NPU để xây engine suy luận AI dị chủng hiệu năng cao và compiler.
- Với kịch bản tìm kiếm, gợi ý, quảng cáo, audio/video và mô hình lớn, tối ưu hiệu quả thực thi compute graph khi train và suy luận.
- Phối hợp sâu với các nhóm thuật toán để tối ưu chung thuật toán–hệ thống cho dự án trọng điểm.
Yêu cầu (đáp ứng một trong số là đủ)
- Có kinh nghiệm LLVM toolchain và phát triển optimization Pass.
- Thành thạo C++, vững cấu trúc dữ liệu và thuật toán, quen kiến trúc máy tính và assembly x86, biết Python.
- Quen XLA, MLIR, TVM, Triton, TensorRT và có kinh nghiệm phát triển tương ứng thì được ưu tiên.
- Thành thạo tối ưu HPC trên CPU (ARM/x86) hoặc GPU (Intel/Nvidia/AMD); hiểu sâu kiến trúc máy tính; quen tối ưu tính song song, truy cập bộ nhớ và tính low-bit.
- Hiểu nguyên lý thuật toán deep learning cơ bản, kiến trúc mạng và cách tính toán tử; biết ít nhất một framework train (như PyTorch, TensorFlow) và cách parse file mô hình.
- Có kinh nghiệm viết và tối ưu kernel toán tử CPU/GPU; quen lập trình CUDA.
- Có khả năng tự giải quyết vấn đề, trừu tượng và tách logic nghiệp vụ hợp lý, làm việc nhóm tốt.
- Hiểu nguyên lý mô hình AIGC phổ biến; có kinh nghiệm tăng tốc AIGC thì được ưu tiên.