6. 現實:AI 需要⼤量 DevOps
資料來源: 機器學習系統的隱藏技術債, Sculley et al.
準備 模型訓練 部署上線
設定 Configuration
數據收集 Data Collection
數據驗證 Data Verification
撰寫 ML Code
機器資源管理
Machine Resource Management
分析⼯具 Analytics Tools
程序管理⼯具
Process Management Tools特徵提取 Feature Extraction
服務基礎建設
Serving Infrastructure
部署管理
Deployment Management
監控
Monitoring
7. 打造流暢的 AI workflow
👩🔧
Data Engineer
Extract
Data
Prepare
Data
👨💻
DevOps
Deploy
👨🔬
Data Scientist
Build
Models
Train
Models
👩💼
Biz Analyst
Validate
👩🚀
App Engineer
🦸
SRE
Use
Models
Monitor
Deploy
8. 資料團隊不⽤煩惱基礎建設,致⼒研發產出
運算資源 Compute Resources
容器化管理 Container Management
⼯作排程 Job Scheduling
系統架構 Architecture
版本控管 Versioning
模型操作 Model Operation / Monitoring
特徵⼯程 Feature / Data Engineering
模型開發 Model Development
伺服器 Bare Metal
資料科學家在乎的 需要基礎建設⽀持
9. Running on any infrastructure
IDE
Data Source Workflow Integration
Algorithm & Library
Programming Language Model Operations
SQL • Infrastructure Orchestration
• Collaboration & Reproducibility
• Model Operations
• Governance & Management
Enterprise ML platform