T3 Chip và phần cứng Taichu Thực tập Vòng 1
Taichu AI Infra thực tập vòng 1 (1)
Câu hỏi phỏng vấn vòng 1 thực tập AI Infra tại Taichu thật, gồm tối ưu huấn luyện
Tối ưu huấn luyện
Dưới đây là nội dung khảo sát vòng 1 thực tập AI Infra tại Taichu.
Kinh nghiệm dự án
- Giới thiệu chi tiết công việc thực tập
Kiến thức nền
- Cấu trúc tổng thể của Transformer
- Khác biệt kiến trúc giữa BERT và GPT
- Nguyên lý và cách hiện thực data parallelism
- Đặc tính cốt lõi của FasterTransformer
- Các optimizer phổ biến (SGD, Adam, …) và đặc điểm từng loại
- Nguyên lý random forest
- Cơ chế hoạt động của GBDT
Tối ưu suy luận
- Trong suy luận dịch vụ online, tăng throughput thế nào
Bài lập trình
- Cộng hai số biểu diễn bằng linked list