Chuyển đến nội dung chính
Ảnh đại diện của Caomaolufei

Caomaolufei (草帽路飞)

Kỹ sư AI Infra trong nhóm mô hình nền tảng tại một công ty internet lớn · Tác giả AIInfraGuide

Huấn luyện phân tán Tối ưu suy luận Tối ưu kernel Tối ưu dị thể CPU+GPU CUDA HPC

Về tôi

Chào bạn, tôi là Caomaolufei. Tôi làm AI Infra trong nhóm mô hình nền tảng tại một công ty internet lớn, đã có nhiều năm kinh nghiệm trong lĩnh vực này, chủ yếu về huấn luyện mô hình, suy luận và tối ưu kernel.

Tôi cũng là tác giả của AIInfraGuide, bộ tài liệu mã nguồn mở dạy AI Infra từ con số 0. Tài liệu đi từ lập trình CUDA cấp thấp đến huấn luyện phân tán và tối ưu suy luận.

Khi học thạc sĩ, tôi nghiên cứu tính toán hiệu năng cao (HPC) truyền thống, chủ yếu tối ưu các mô hình số trên nền tảng dị thể CPU và GPU, nên có nền tảng khá vững về tối ưu ở cấp kernel và tinh chỉnh hiệu năng ở cấp hệ thống. Trong thời gian học tôi đã thực tập AI Infra ở 3 nơi, sau khi tốt nghiệp thì vào một công ty lớn qua đợt tuyển sinh viên và làm AI Infra ở đó đến nay.

Tôi làm dự án này để sắp xếp lại những gì học được rời rạc trong công việc, và để trao đổi với những người cũng quan tâm đến AI Infra. Tôi sẽ tiếp tục viết ghi chép và bài hướng dẫn dựa trên kinh nghiệm thực tế.

Liên hệ

Mã QR nhóm WeChat AIInfraGuide

Tham gia nhóm AIInfraGuide

Quét mã để vào nhóm WeChat AIInfraGuide, nơi mọi người trao đổi kinh nghiệm thực tế về huấn luyện, suy luận và tối ưu kernel.

Mã QR WeChat cá nhân của Caomaolufei

WeChat cá nhân của Caomaolufei

Quét mã để kết bạn WeChat với tôi nếu bạn muốn trao đổi về việc học và làm AI Infra. Tôi cũng sẵn sàng hợp tác kỹ thuật, và có nhận tư vấn tìm việc, lập kế hoạch học và kèm luyện phỏng vấn.