Chuyển đến nội dung chính
Ngân hàng câu hỏi tổng hợp

Ngân hàng câu hỏi phỏng vấn AI Infra tổng hợp (5)

Câu hỏi phỏng vấn AI Infra thật, gồm tối ưu huấn luyện và tính toán hiệu năng cao

Tối ưu huấn luyện Tính toán hiệu năng cao

Kinh nghiệm dự án

  1. Đào sâu dự án

Kiến thức cơ bản

  1. Giải thích GIL của Python và ảnh hưởng tới đa luồng
  2. Các tiến trình Python giao tiếp IPC bằng những cách nào?
  3. Chi phí giao tiếp All-Reduce tính thế nào? Hãy suy ra cụ thể
  4. tensor.view và tensor.contiguous khác và liên hệ thế nào?
  5. Trong tensor parallelism, cắt theo cột trước khác cắt theo hàng trước ở điểm nào?

Bài lập trình

  1. Hiện thực lũy thừa nguyên của một số
  2. Hiện thực thuật toán Graph Fusion