ארגונים מחזירים עומסי AI לענן הפרטי בגלל עלויות ואבטחה
ארגונים מפנים עומסי AI חזרה לענן הפרטי עקב עלייה חדה בעלויות ה-token וחששות אבטחה הולכים וגדלים. המעבר דורש פלטפורמות מאוחדות כמו VCF של Broadcom, שמציעות חיסכון בעלויות של עד 50% בזיכרון וזמני פריסה קצרים, עם תמיכה ב-150 מודלים שונים.
אז מה בעצם קרה כאן? אחרי שנים של מירוץ לענן הציבורי, ארגונים גדולים מתחילים להחזיר את עומסי ה-AI שלהם חזרה לתוך מרכזי הנתונים הפרטיים שלהם. זה לא רק טרנד – זו תגובה ישירה לעלויות שמתפוצצות, חששות אבטחה הולכים וגדלים ודרישות לריבונות שמשנות את כללי המשחק.
למה עכשיו?
שלושה כוחות מתנגשים בו-זמנית על צוותי התשתיות בארגונים. ראשית, מודלי AI מתקדמים (frontier models) מעלים את הסיכונים האבטחתיים. שנית, מחירי החומרה, במיוחד זיכרון DRAM, מטפסים. שלישית, חברות רוצות להגן על הקניין הרוחני שלהן מפני חשיפה למודלים חיצוניים.
"לקוחות מודאגים מעלות ה-token בענן", הסביר Krish Prasad, סגן נשיא בכיר ומנכ"ל חטיבת VMware Cloud Foundation ב-Broadcom, בראיון ל-TheCUBE. "הם גם מודאגים מהגנה על IP, כשהם חושפים את ה-IP והנתונים שלהם למודלים חיצוניים. אז הם מחזירים את עומסי ה-AI לסביבה המקומית, שם הם יכולים לשמור את הדברים קרוב לנתונים שלהם ולהגן על ה-IP."
הפלטפורמה כמפתח
המהלך הזה שם את איחוד הפלטפורמות במרכז החלטות הרכש של ארגונים. Broadcom, למשל, השקיעה שלוש שנים במיזוג מוצרי VMware לערימה אחת, ולקוחות כמו United Airlines, Audi והבורסה של לונדון כבר רצים על הפלטפורמה הזו.
ההבטחה היא לשלב את היתרונות של הענן הציבורי – חוויית מפתחים, זריזות – עם היתרונות של תשתית פרטית: אבטחה, שליטה בעלויות ועמידות. "זה בדיוק מה ש-VCF מייצג", אמר Prasad. "ולכן לקוחות מאוד מעוניינים לפרוס את זה."
חיסכון בעלויות וחדשנות
אחד החידושים המרכזיים הוא memory tiering, שיצא לשוק שנה לפני הלחץ על DRAM. הוא חותך את דרישות הזיכרון של יישומים בכ-50% על ידי שימוש באחסון NVMe. בנוסף, גרסה 9.1 של VCF מרחיבה את ערימת ה-AI וכוללת תמיכה ביותר מ-150 מודלים, במאיצים של AMD ו-Nvidia ובשרתי OEM שונים.
Prashanth Shenoy, CMO וסגן נשיא בחטיבת VMware Cloud Foundation ב-Broadcom, הסביר שהשיווק עובר לכיוון של "מפעלי AI" מוכנים לשימוש. "ארגונים רבים עוברים מפיילוט לייצור בקנה מידה גדול", הוא אמר. "הם מחפשים פלטפורמה שיכולה להריץ מודלים וסוכנים כמערכת אחת, במקום לערום רכיבים בעצמם."
אבטחה בחזית
האבטחה היא חלק מרכזי בסיפור. Broadcom חיזקה את VCF 9.1 מהיסוד, עברה לשחרורי תיקונים חודשיים והשיקה תוכנית "Frontier AI Security Readiness" הכוללת הערכה, ארכיטקטורה, יישום והכשרה.
"ההיקף, המהירות והמגוון של איומים מבוססי AI פשוט התפוצצו", אמר Shenoy. "תוקפים לא לוקחים שבועות או חודשים. הם נכנסים למערכת תוך שעות או דקות."
מה הלאה?
Chris Wolf, העומד בראש תחום ה-AI והשירותים המתקדמים בחטיבת VMware Cloud Foundation ב-Broadcom, ציין שהמפתח הוא גמישות תוכנה. "קנו חומרה קודם, חשבו על תוכנה אחר כך – זה רעיון נורא", הוא אמר. "התוכנה היא שנותנת לכם אוטונומיה מבחינת מאיצים, גמישות להשתמש במודלים בענן או מקומיים לפי הצורך."
הוא גם הזהיר מתופעת "חרטת הקנייה" – ארגונים שקנו פתרונות שלכאורה היו מלאים, אבל התבררו כלא כאלה.
מה זה אומר לנו?
לעובדי ההייטק בישראל, המגמה הזו רלוונטית. היא משנה את האופן שבו חברות מתכננות תשתיות AI, משפיעה על שוק העבודה (דרישה למיומנויות בתשתיות פרטיות), ומעלה שאלות על עלויות ואבטחה בפרויקטים שאתם מובילים.
בסופו של דבר, ה-AI לא נעלם – הוא פשוט מוצא בית חדש, קרוב יותר לנתונים ולשליטה שלכם. ואם חשבתם שענן ציבורי תמיד יהיה הזול יותר, כדאי לחשב מסלול מחדש.