Chuyển đến nội dung chính
T1 Công ty lớn và kỳ lân JD.com Thực tập

JD.com AI Infra thực tập

Câu hỏi phỏng vấn thực tập AI Infra tại JD.com thật, gồm tối ưu suy luận, tối ưu huấn luyện và tính toán hiệu năng cao

Tối ưu suy luận Tối ưu huấn luyện Tính toán hiệu năng cao

Kiến thức nền

  1. Giới thiệu thiết kế kiến trúc và phương pháp train của dòng mô hình Qwen.
  2. Nêu khác biệt giữa ba thuật toán RL PPO, DPO và GRPO.
  3. Entropy, cross-entropy và KL divergence liên hệ và khác nhau thế nào?
  4. Trong bài classification vì sao thường không dùng MSE làm loss?

Tối ưu huấn luyện

  1. Lần lượt giới thiệu chức năng lõi và nguyên lý của DeepSpeed, DDP và FlashAttention.
  2. Trong PPO, hàm Advantage được tính thế nào? Critic model cập nhật ra sao?

Tối ưu suy luận

  1. Ước lượng suy luận Qwen3-8B cần bao nhiêu VRAM.
  2. Quy trình đầy đủ của RAG (retrieval-augmented generation) là gì? Có chiến lược tối ưu nào khả thi?

Trải nghiệm thực tập

  1. Hàm reward được thiết kế thế nào? Trước khi train GRPO có giai đoạn cold start không?

Kinh nghiệm dự án

  1. Khảo sát sâu kinh nghiệm dự án.

Bài lập trình

  1. Viết tay GQA (Grouped Query Attention).