Đề cương khóa học

Giới thiệu về Fine-Tuning Thách thức

  • Tổng quan về quá trình tinh chỉnh
  • Các thách thức phổ biến khi tinh chỉnh các mô hình lớn
  • Hiểu rõ tác động của chất lượng dữ liệu và tiền xử lý

Giải quyết sự mất cân bằng dữ liệu

  • Xác định và phân tích sự mất cân bằng dữ liệu
  • Các kỹ thuật để xử lý các tập dữ liệu mất cân bằng
  • Sử dụng tăng cường dữ liệu và dữ liệu tổng hợp

Quản lý Overfitting và Underfitting

  • Hiểu rõ overfitting và underfitting
  • Các kỹ thuật điều chuẩn: L1, L2 và dropout
  • Điều chỉnh độ phức tạp của mô hình và thời lượng đào tạo

Cải thiện sự hội tụ của mô hình

  • Chẩn đoán các vấn đề về hội tụ
  • Chọn tỷ lệ học tập và trình tối ưu phù hợp
  • Triển khai lịch trình tỷ lệ học tập và khởi động

Gỡ lỗi các Pipelines Fine-Tuning

  • Công cụ để giám sát các quy trình đào tạo
  • Ghi nhật ký và trực quan hóa các chỉ số mô hình
  • Gỡ lỗi và giải quyết các lỗi thời gian chạy

Tối ưu hóa hiệu quả đào tạo

  • Chiến lược kích thước lô và tích lũy gradient
  • Sử dụng đào tạo độ chính xác hỗn hợp
  • Đào tạo phân tán cho các mô hình quy mô lớn

Nghiên cứu điển hình khắc phục sự cố trong thực tế

  • Nghiên cứu điển hình: Tinh chỉnh để phân tích tình cảm
  • Nghiên cứu điển hình: Giải quyết các vấn đề về hội tụ trong phân loại hình ảnh
  • Nghiên cứu điển hình: Giải quyết overfitting trong tóm tắt văn bản

Tóm tắt và các bước tiếp theo

Requirements

  • Kinh nghiệm với các framework học sâu như PyTorch hoặc TensorFlow
  • Hiểu các khái niệm học máy như huấn luyện, xác thực và đánh giá
  • Làm quen với việc tinh chỉnh các mô hình được huấn luyện trước

Đối tượng

  • Nhà khoa học dữ liệu
  • Kỹ sư AI
 14 Hours

Number of participants


Price per participant

Provisional Upcoming Courses (Require 5+ participants)

Related Categories