Houmo AI Infra thực tập

Kiến thức cơ bản

1. Nguyên lý cơ bản của gradient descent là gì? Dùng quy tắc chuỗi để đạo hàm thế nào?
2. Đạo hàm của ReLU tại điểm 0 được định nghĩa ra sao?
3. Softmax được triển khai thế nào? Xử lý tràn số ra sao?

Tối ưu suy luận

4. Trình bày tư tưởng cốt lõi của phương pháp lượng tử hóa AdaQuant.
5. Trình bày các điểm kỹ thuật chính của phương pháp lượng tử hóa I-ViT.