Chuyển đến nội dung chính
T0 Công ty lớn ByteDance Vòng 1-2

ByteDance AML AI Infra vòng 1–2

Câu hỏi phỏng vấn vòng 1–2 AI Infra tại ByteDance thật, gồm AI Infra

Vòng 1

Tối ưu suy luận

  1. Nút thắt hiệu năng chính của suy luận mô hình lớn?
  2. Các kỹ thuật tối ưu cốt lõi cho suy luận mô hình lớn?
  3. PagedAttention hoạt động thế nào?
  4. Ý tưởng thiết kế lập lịch request theo iteration của Orca?

Kinh nghiệm dự án

  1. Giới thiệu kinh nghiệm dự án (MPS, quản lý bộ nhớ train, chiến lược lập lịch, multiplexing theo thời gian và theo không gian, …).

Bài lập trình

  1. Đảo ngược linked list.

Vòng 2

Kiến thức nền

  1. Chỉ số mảng vượt biên trong C++ gây lỗi gì?
  2. Trên Linux, debug chương trình và định vị lỗi thế nào?

Kinh nghiệm dự án

  1. Giới thiệu kinh nghiệm dự án (MPS, chỉ số GPU utilization, …).

Bài lập trình

  1. Hiện thực LRU Cache.