發生什麼事
AWS 在 Machine Learning Blog 宣布,SageMaker AI 預設監控生成式 AI 推論端點,持續追蹤延遲、GPU 使用率與服務設定。一旦判斷某項變更能改善效能或降低成本,就透過 AWS Health 送出 finding(Amazon SageMaker AI now detects latency drift, idle GPUs, and missed optimizations on your inference endpoints)。
證據:🗣 官方自述,本站未實測。
01參考來源
- Amazon SageMaker AI now detects latency drift, idle GPUs, and missed optimizations on your inference endpoints:發布單位 AWS,AWS Machine Learning Blog,發布日期 2026-11-19