ידיעות בינה מלאכותית בנושא SILICONANGLE
ארגונים מפנים עומסי AI חזרה לענן הפרטי עקב עלייה חדה בעלויות ה-token וחששות אבטחה הולכים וגדלים. המעבר דורש פלטפורמות מאוחדות כמו VCF של Broadcom, שמציעות חיסכון בעלויות של עד 50% בזיכרון וזמני פריסה קצרים, עם תמיכה ב-150 מודלים שונים.
Workday פרסמה תוצאות רבעוניות חזקות מהצפוי, עם רווחים והכנסות שעקפו את התחזיות. החברה מייחסת את ההצלחה לאימוץ המהיר של סוכני AI, שמניעים יותר מ-25% מהמכירות החדשות. בנוסף, Workday משתפת פעולה עם Google Cloud כדי לשלב AI בתהליכי עבודה קיימים, תוך שמירה על הגנות ארגוניות.
ארגונים מפחיתים עלויות הסקת AI בקנה מידה באמצעות העברת עומסים ל-SSD, אופטימיזציית KV cache, תשתיות מודולריות פתוחות וניצול מירבי של GPU. Metrum AI, Solidigm ו-Super Micro מובילות את השינוי.