Đề cương khóa học

Giới thiệu về triển khai sản xuất

  • Những thách thức chính trong việc triển khai các mô hình đã được tinh chỉnh
  • Sự khác biệt giữa môi trường phát triển và môi trường sản xuất
  • Công cụ và nền tảng để triển khai mô hình

Chuẩn bị mô hình để triển khai

  • Xuất mô hình ở các định dạng tiêu chuẩn (ONNX, TensorFlow SavedModel, v.v.)
  • Tối ưu hóa mô hình để có độ trễ và thông lượng thấp
  • Kiểm tra mô hình trên các trường hợp biên và dữ liệu thực tế

Container hóa để triển khai mô hình

  • Giới thiệu về Docker
  • Tạo ảnh Docker cho các mô hình ML
  • Các phương pháp hay nhất để bảo mật và hiệu quả của container

Mở rộng quy mô triển khai với Kubernetes

  • Giới thiệu về Kubernetes cho khối lượng công việc AI
  • Thiết lập cụm Kubernetes để lưu trữ mô hình
  • Cân bằng tải và mở rộng ngang

Giám sát và bảo trì mô hình

  • Triển khai giám sát với Prometheus và Grafana
  • Ghi nhật ký tự động để theo dõi lỗi và hiệu suất
  • Quy trình đào tạo lại để khắc phục hiện tượng trôi mô hình và cập nhật

Đảm bảo bảo mật trong sản xuất

  • Bảo mật API để suy luận mô hình
  • Cơ chế xác thực và ủy quyền
  • Giải quyết các vấn đề về quyền riêng tư dữ liệu

Nghiên cứu điển hình và phòng thí nghiệm thực hành

  • Triển khai mô hình phân tích tình cảm
  • Mở rộng quy mô dịch vụ dịch máy
  • Triển khai giám sát cho các mô hình phân loại hình ảnh

Tóm tắt và các bước tiếp theo

Requirements

  • Hiểu biết vững chắc về quy trình học máy
  • Có kinh nghiệm điều chỉnh các mô hình ML
  • Làm quen với các nguyên tắc DevOps hoặc MLOps

Đối tượng

  • Kỹ sư DevOps
  • Chuyên gia thực hành MLOps
  • Chuyên gia triển khai AI
 21 Hours

Number of participants


Price per participant

Testimonials (1)

Provisional Upcoming Courses (Require 5+ participants)

Related Categories