Đề cương khóa học

Giới thiệu về Fine-Tuning

  • Fine-tuning là gì?
  • Các trường hợp sử dụng và lợi ích của fine-tuning
  • Tổng quan về các mô hình được huấn luyện trước và học chuyển giao

Chuẩn bị cho Fine-Tuning

  • Thu thập và làm sạch bộ dữ liệu
  • Hiểu các yêu cầu dữ liệu cụ thể của nhiệm vụ
  • Phân tích và tiền xử lý dữ liệu khám phá

Kỹ thuật Fine-Tuning

  • Học chuyển giao và trích xuất đặc trưng
  • Fine-tuning Transformers với Hugging Face
  • Fine-tuning cho các nhiệm vụ có giám sát so với không giám sát

Fine-Tuning Large Language Models (LLMs)

  • Điều chỉnh LLM cho các nhiệm vụ NLP (ví dụ: phân loại văn bản, tóm tắt)
  • Huấn luyện LLM với các bộ dữ liệu tùy chỉnh
  • Kiểm soát hành vi LLM bằng kỹ thuật nhắc lệnh

Tối ưu hóa và Đánh giá

  • Điều chỉnh siêu tham số
  • Đánh giá hiệu suất mô hình
  • Giải quyết tình trạng quá khớp và thiếu khớp

Mở rộng Nỗ lực Fine-Tuning

  • Fine-tuning trên các hệ thống phân tán
  • Tận dụng các giải pháp dựa trên đám mây để mở rộng
  • Nghiên cứu điển hình: Các dự án fine-tuning quy mô lớn

Các Thực hành Tốt nhất và Thách thức

  • Các thực hành tốt nhất để đạt được thành công trong fine-tuning
  • Các thách thức phổ biến và khắc phục sự cố
  • Các cân nhắc về đạo đức trong việc fine-tuning các mô hình AI

Các Chủ đề Nâng cao (Tùy chọn)

  • Fine-tuning các mô hình đa phương thức
  • Học không cần mẫu và học với ít mẫu
  • Khám phá các kỹ thuật LoRA (Thích ứng Hạng Thấp)

Tóm tắt và Các Bước Tiếp theo

Requirements

  • Hiểu biết về các nguyên tắc cơ bản của học máy
  • Kinh nghiệm với lập trình Python
  • Làm quen với các mô hình được huấn luyện trước và ứng dụng của chúng

Đối tượng

  • Nhà khoa học dữ liệu
  • Kỹ sư học máy
  • Nhà nghiên cứu AI
 14 Hours

Number of participants


Price per participant

Provisional Upcoming Courses (Require 5+ participants)

Related Categories