Đề cương khóa học
Giới thiệu về Tối ưu hóa Edge AI
- Tổng quan về AI biên và những thách thức của nó
- Tầm quan trọng của việc tối ưu hóa mô hình cho các thiết bị biên
- Các nghiên cứu điển hình về mô hình AI được tối ưu hóa trong các ứng dụng biên
Các Kỹ thuật Nén Mô hình
- Giới thiệu về nén mô hình
- Các kỹ thuật để giảm kích thước mô hình
- Thực hành nén mô hình
Các Phương pháp Lượng tử hóa
- Tổng quan về lượng tử hóa và lợi ích của nó
- Các loại lượng tử hóa (lượng tử hóa sau huấn luyện, huấn luyện nhận biết lượng tử hóa)
- Thực hành lượng tử hóa mô hình
Cắt tỉa và Các Kỹ thuật Tối ưu hóa Khác
- Giới thiệu về cắt tỉa
- Các phương pháp cắt tỉa mô hình AI
- Các kỹ thuật tối ưu hóa khác (ví dụ: chưng cất tri thức)
- Thực hành cắt tỉa và tối ưu hóa mô hình
Triển khai Mô hình Tối ưu hóa trên Thiết bị Biên
- Chuẩn bị môi trường thiết bị biên
- Triển khai và kiểm tra các mô hình được tối ưu hóa
- Khắc phục sự cố triển khai
- Thực hành triển khai mô hình
Công cụ và Khung làm việc để Tối ưu hóa
- Tổng quan về các công cụ và khung làm việc (ví dụ: TensorFlow Lite, ONNX)
- Sử dụng TensorFlow Lite để tối ưu hóa mô hình
- Thực hành với các công cụ tối ưu hóa
Các Ứng dụng và Nghiên cứu điển hình trong Thế giới Thực
- Xem xét các dự án tối ưu hóa AI biên thành công
- Thảo luận về các trường hợp sử dụng cụ thể theo ngành
- Dự án thực hành để xây dựng và tối ưu hóa một ứng dụng trong thế giới thực
Tóm tắt và Các Bước Tiếp theo
Requirements
- Hiểu biết về các khái niệm AI và học máy
- Kinh nghiệm phát triển mô hình AI
- Kỹ năng lập trình cơ bản (Python được khuyến nghị)
Đối tượng
- Nhà phát triển AI
- Kỹ sư học máy
- Kiến trúc sư hệ thống
Testimonials (2)
the ML ecosystem not only MLFlow but Optuna, hyperops, docker , docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Course - MLflow
I enjoyed participating in the Kubeflow training, which was held remotely. This training allowed me to consolidate my knowledge for AWS services, K8s, all the devOps tools around Kubeflow which are the necessary bases to properly tackle the subject. I wanted to thank Malawski Marcin for his patience and professionalism for training and advice on best practices. Malawski approaches the subject from different angles, different deployment tools Ansible, EKS kubectl, Terraform. Now I am definitely convinced that I am going into the right field of application.