Ngân hàng câu hỏi tổng hợp
Ngân hàng câu hỏi phỏng vấn AI Infra tổng hợp (5)
Câu hỏi phỏng vấn AI Infra thật, gồm tối ưu huấn luyện và tính toán hiệu năng cao
Tối ưu huấn luyện Tính toán hiệu năng cao
Kinh nghiệm dự án
- Đào sâu dự án
Kiến thức cơ bản
- Giải thích GIL của Python và ảnh hưởng tới đa luồng
- Các tiến trình Python giao tiếp IPC bằng những cách nào?
- Chi phí giao tiếp All-Reduce tính thế nào? Hãy suy ra cụ thể
tensor.viewvàtensor.contiguouskhác và liên hệ thế nào?- Trong tensor parallelism, cắt theo cột trước khác cắt theo hàng trước ở điểm nào?
Bài lập trình
- Hiện thực lũy thừa nguyên của một số
- Hiện thực thuật toán Graph Fusion