Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Đề cương khóa học
Giới thiệu về QLoRA và Quantization
- Tổng quan về quantization và vai trò của nó trong việc tối ưu hóa mô hình
- Giới thiệu về khungworks QLoRA và những lợi ích của nó
- Các điểm khác biệt chính giữa QLoRA và các phương pháp fine-tuning truyền thống
Những nguyên lý cơ bản của Large Language Models (LLMs)
- Giới thiệu về LLMs và kiến trúc của chúng
- Thách thức trong việc fine-tuning các mô hình lớn ở quy mô lớn
- Cách quantization giúp vượt qua các giới hạn tính toán trong quá trình fine-tuning LLM
Triển khai QLoRA cho Fine-Tuning LLMs
- Cài đặt khungworks và môi trường QLoRA
- Sắp xếp dữ liệu để fine-tuning với QLoRA
- Hướng dẫn từng bước triển khai QLoRA trên LLMs sử dụng Python và PyTorch/TensorFlow
Tối ưu hóa hiệu suất của Fine-Tuning bằng QLoRA
- Cách cân nhắc giữa độ chính xác và hiệu suất mô hình với quantization
- Các kỹ thuật để giảm chi phí tính toán và sử dụng bộ nhớ trong quá trình fine-tuning
- Chiến lược fine-tuning với yêu cầu phần cứng tối thiểu
Đánh giá các Mô hình Fine-Tuned
- Cách đánh giá hiệu quả của các mô hình đã được fine-tuned
- Các chỉ số đánh giá thông thường cho các mô hình ngôn ngữ
- Tối ưu hóa hiệu suất mô hình sau khi fine-tuning và khắc phục sự cố
Triển khai và Mở rộng Các Mô hình Fine-Tuned
- Các thực hành tốt nhất để triển khai các LLMs đã được quantized vào môi trường sản xuất
- Mở rộng triển khai để xử lý các yêu cầu thời gian thực
- Công cụ và khungworks cho việc triển khai và theo dõi mô hình
Ví dụ Thực tế Use Case và Trường hợp điển hình
- Trường hợp điển hình: Fine-tuning LLMs cho hỗ trợ khách hàng và các tác vụ NLP
- Ví dụ về việc fine-tuning LLMs trong nhiều ngành như y tế, tài chính và thương mại điện tử
- Học hỏi từ việc triển khai thực tế của mô hình dựa trên QLoRA
Tóm tắt và Bước Tiếp theo
Requirements
- Sự hiểu biết về nền tảng học máy và mạng neural
- Kinh nghiệm trong việc điều chỉnh mô hình và học chuyển giao
- Nắm vững các mô hình ngôn ngữ lớn (LLMs) và khung làm việc học sâu (ví dụ: PyTorch, TensorFlow)
Đối tượng
- Kỹ sư học máy
- Nhà phát triển AI
- Người khoa học dữ liệu
14 Hours
