SageMaker מנטרת endpoints ומתריעה על GPU ריקים ודריפט
AWS מפעילה ניטור אוטומטי ב-SageMaker AI שמאתר GPU ריקים, דריפט ב-latency וקונפיגורציות לא מיטביות. המערכת מופעלת כברירת מחדל על endpoints עם vLLM – ללא סטאפ וללא קריאת דאטה – ושולחת התראות דרך AWS Health, עם אפשרות להריץ benchmark ולהשוות חלופות.
