Blog

Kỹ Sư Mô Hình

Về Chúng Tôi

Chúng tôi là công ty giao dịch định lượng và nhà cung cấp thanh khoản hàng đầu, cam kết mang lại lợi nhuận điều chỉnh rủi ro vượt trội. Các mô hình giao dịch của chúng tôi đã được kiểm chứng theo thời gian thông qua việc kết hợp phân tích toán học toàn diện, kiến thức thị trường tài chính sâu rộng và giải pháp công nghệ trí tuệ nhân tạo tiên tiến. Chúng tôi là người tiên phong trong lĩnh vực ra quyết định có hệ thống, thực thi thuật toán và quản lý rủi ro chủ động. Đội ngũ của chúng tôi bao gồm các chuyên gia giàu kinh nghiệm từ các ngân hàng đầu tư hàng đầu (như Morgan Stanley/Merrill Lynch (Bank of America)/UBS/Macquarie) và các sinh viên tốt nghiệp có nền tảng học thuật xuất sắc từ các trường như London School of Economics/Oxford University/Nanyang Technological University/National University of Singapore.

 

【Trách Nhiệm】

  • Thiết kế và phát triển các mô hình ngôn ngữ quy mô lớn, bao gồm tiền huấn luyện mô hình, tinh chỉnh hiệu quả và tối ưu hóa hiệu suất
  • Phát triển và tối ưu hóa framework huấn luyện mô hình, triển khai các công nghệ quan trọng như huấn luyện phân tán và Parameter-Efficient Fine-Tuning (PEFT)
  • Xây dựng hệ thống đánh giá LLM, thiết kế các tiêu chuẩn đánh giá cho lĩnh vực chuyên môn
  • Tối ưu hóa hiệu suất suy luận mô hình, thực hiện lượng tử hóa mô hình, cắt tỉa và tối ưu hóa triển khai

 

【Yêu Cầu】

  • Bằng Thạc sĩ trở lên trong ngành Khoa học Máy tính hoặc các lĩnh vực liên quan
  • Trên 2 năm kinh nghiệm phát triển dự án học sâu, bao gồm thực hành huấn luyện mô hình quy mô lớn
  • Nền tảng vững chắc về thuật toán học máy
  • Khả năng thiết kế thí nghiệm và phân tích kết quả xuất sắc
  • Kỹ năng viết mã và tài liệu tốt

 

【Phát Triển Mô Hình Lớn】

  • Thành thạo các kỹ thuật huấn luyện LLM (như LoRA, QLoRA, Adapter và các phương pháp PEFT khác)
  • Hiểu sâu về kiến trúc Transformer và các mô hình tiền huấn luyện chính (như LLaMA, Mistral)
  • Quen thuộc với các kỹ thuật tối ưu hóa cấp thấp như Flash Attention và nén gradient ngẫu nhiên
  • Có kinh nghiệm về lượng tử hóa và nén mô hình (như lượng tử hóa INT4/INT8, cắt tỉa mô hình, chưng cất kiến thức)
  • Có kinh nghiệm tối ưu hóa hiệu suất suy luận, hiểu về vLLM, TensorRT-LLM và các framework tăng tốc suy luận khác

 

【Huấn Luyện Phân Tán】

  • Thành thạo PyTorch, hiểu sâu về các cơ chế huấn luyện phân tán như DistributedDataParallel và FSDP
  • Quen thuộc với các framework huấn luyện quy mô lớn như DeepSpeed và Megatron-LM
  • Thành thạo công nghệ huấn luyện song song 3D (song song dữ liệu, song song tensor, song song pipeline)
  • Có kinh nghiệm thiết kế và tinh chỉnh hiệu suất hệ thống huấn luyện đa GPU/đa máy
  • Quen thuộc với các phương pháp tối ưu hóa bộ nhớ như gradient checkpointing và huấn luyện độ chính xác hỗn hợp

 

【Tối Ưu Hóa Hệ Thống】

  • Thành thạo hệ thống Linux và lập trình CUDA
  • Hiểu sâu về kiến trúc GPU và quản lý bộ nhớ
  • Có khả năng phân tích và tối ưu hóa hiệu suất huấn luyện và suy luận
  • Quen thuộc với các hệ thống lưu trữ phân tán (như S3, HDFS)

 

【Đánh Giá Mô Hình】

  • Thành thạo các phương pháp đánh giá hiệu suất và hiệu quả mô hình
  • Quen thuộc với A/B testing và kỹ thuật phân tích thống kê
  • Có kinh nghiệm phân tích khả năng giải thích mô hình

 

【Kỹ Thuật Cơ Bản】

  • Thành thạo xử lý dữ liệu Python (numpy, pandas, scikit-learn, v.v.)
  • Thành thạo sử dụng PySpark để xử lý dữ liệu quy mô lớn
  • Có khả năng thiết kế và triển khai các hàm loss tùy chỉnh
  • Quen thuộc với các công cụ trực quan hóa dữ liệu và phân tích thí nghiệm

 

【Điểm Cộng Thêm】

  • Có bài báo hoặc đóng góp cho dự án mã nguồn mở liên quan đến mô hình lớn
  • Quen thuộc với triển khai cấp thấp của các kiến trúc cốt lõi như Transformer
  • Có kinh nghiệm làm việc tại các tổ chức tài chính hoặc đầu tư định lượng
  • Hiểu biết về cơ chế thị trường tài chính và chiến lược giao dịch

 

【Phúc Lợi】

  • Làm việc từ xa 2 ngày/tuần, có thể làm việc từ xa ở nước ngoài lên đến 25 ngày/năm
  • Lương cơ bản và thưởng cạnh tranh
  • Cấu trúc tổ chức phẳng, môi trường làm việc tích cực
  • Nhiều chuyến du lịch nước ngoài hàng năm của công ty
  • Hoạt động giải trí như thể thao, trò chơi board game

 

【Địa điểm làm việc】

  • Thành phố Hồ Chí Minh, Việt Nam

 

 

Add comment