Đề cương khóa học

Giới thiệu về triển khai AI

  • Tổng quan về vòng đời triển khai AI
  • Thách thức trong việc triển khai các tác nhân AI vào sản xuất
  • Các cân nhắc chính: khả năng mở rộng, độ tin cậy và khả năng bảo trì

Container hóa và Điều phối

  • Giới thiệu về Docker và các nguyên tắc cơ bản của container hóa
  • Sử dụng Kubernetes để điều phối các tác nhân AI
  • Các phương pháp hay nhất để quản lý các ứng dụng AI được container hóa

Phục vụ Mô hình AI

  • Tổng quan về các khung phục vụ mô hình (ví dụ: TensorFlow Serving, TorchServe)
  • Xây dựng REST API cho suy luận của tác nhân AI
  • Xử lý dự đoán theo lô so với dự đoán thời gian thực

CI/CD cho AI Agents

  • Thiết lập quy trình CI/CD cho triển khai AI
  • Tự động hóa kiểm tra và xác thực mô hình AI
  • Cập nhật dần dần và quản lý kiểm soát phiên bản

Giám sát và Tối ưu hóa

  • Triển khai các công cụ giám sát hiệu suất của tác nhân AI
  • Phân tích sự trôi dạt của mô hình và nhu cầu đào tạo lại
  • Tối ưu hóa việc sử dụng tài nguyên và khả năng mở rộng

Bảo mật và Governance

  • Đảm bảo tuân thủ các quy định về quyền riêng tư dữ liệu
  • Bảo mật quy trình triển khai và API
  • Kiểm toán và ghi nhật ký cho các ứng dụng AI

Thực hành Activities

  • Container hóa một tác nhân AI với Docker
  • Triển khai một tác nhân AI bằng Kubernetes
  • Thiết lập giám sát hiệu suất và sử dụng tài nguyên của AI

Tóm tắt và Các bước tiếp theo

Requirements

  • Thông thạo ngôn ngữ lập trình Python
  • Hiểu rõ quy trình làm việc của học máy
  • Làm quen với các công cụ đóng gói ứng dụng như Docker
  • Có kinh nghiệm với các phương pháp thực hành DevOps (khuyến nghị)

Đối tượng

  • Kỹ sư MLOps
  • Chuyên gia DevOps
 14 Hours

Number of participants


Price per participant

Provisional Upcoming Courses (Require 5+ participants)

Related Categories