הדאטה לא יוצאת מהמדינה: ה-AI עובר ל-on-prem

יש קו אדום חדש בעולם ה-AI, והוא לא טכני אלא משפטי. גופים ממשלתיים, בנקים, מערכות בריאות ומפעילי תשתיות קריטיות לא יכולים לשלוח דאטה רגיש מעבר לגבול או לחשוף אותו בסביבה ציבורית מרובת דיירים — זה פשוט מפר את דרישות הציות. אז מה עושים? מעבירים את העומס הביתה, אל ה-on-premises.

הנתונים כאן חדים. לפי מחקר של Intersect360 Research, ‏68.2% מהמשיבים לא משתמשים בכלל באחסון public cloud לעומסי HPC-AI פעילים, ו-56.3% מדווחים על אפס שימוש ב-compute בענן למערכות האלה. יותר מזה: 83.5% מסכימים שדאטה ו-compute חייבים לשבת פיזית באותו מקום — ואף משיב לא חלק על זה. לא מדובר בחישוב עלות זמני, אלא בצורך מבני.

אבל לצד השליטה מגיע מחיר בביצועים. עומסי AI דוחפים את הארכיטקטורה לדפוס גישה של קבצים קטנים ורבים, שהוא בדיוק ההפך ממה ש-legacy parallel filesystems נבנו עבורו. הפער בין הצורך למציאות בולט במיוחד: ביצועים על קבצים קטנים רבים הם הפער הגדול ביותר בכל המחקר, עם פער של 0.98 נקודות בין חשיבות (4.18) לשביעות רצון (3.20). והארגונים? בולעים את העונש הזה בשתיקה במקום לוותר על ריבונות הדאטה.

עוד סימן שהשוק התבגר: 92.9% מהמשיבים אומרים שפתרונות אחסון הם רכש אסטרטגי ברמת הדירקטוריון, לא קנייה של commodity. כשאחסון הופך להחלטת דירקטוריון, ברור שמדובר במשהו גדול.

אז מי מרוויח מהמעבר הזה?

כאן נכנסת הזדמנות אמיתית ל-CSPs אזוריים. ספק ענן מקומי שמקים סביבת sovereign AI — כזו שבה הדאטה, המודלים וההרצה נשארים בתוך תחום שיפוט מוגדר — יכול לגבות פרמיה על ציות ובידוד. מעבר לתשתית בסיסית, הוא יכול למכור שירותים בעלי ערך: inferencing מקומי של מודלים גדולים, fine-tuning של מודלים בקוד פתוח על דאטה רגיש במיוחד, ואפליקציות AI מותאמות לתקנות בריאות או לחוקי בנקאות מקומיים. זו לא מכירת שרתים, אלא הפיכה לשותף מהימן.

מי שרוצה להריץ את זה צריך לחשוב גם על הכלכלה, לא רק על החוק. עומסי AI יקרים חישובית, ובנייה על חומרה ישנה שורפת את המרווח מהר. כאן נכנס הפתרון המשותף של HPE ו-AMD: מערכות AI/HPC מבוססות מעבדי 5th Gen AMD EPYC ו-AMD Instinct GPUs. במבחני ביצועים, המעבדים האלה מספקים עד פי 1.73 יותר throughput בעומסי AI מקצה לקצה, ופי 1.93 יותר ביצועים בעומסי machine learning, בהשוואה לחלופות x86 מתחרות. בתרגום לשטח: פחות עלויות אנרגיה, עיבוד מודלים מהיר יותר, ומרווח גבוה יותר לכל דייר.

מה עם הצד הירוק?

המשוואה הזו לא נגמרת בביצועים. CIOs מוצאים את עצמם בין הצורך בעוד כוח חישוב לבין יעדי קיימות והתייקרות החשמל. גם כאן היעילות של AMD EPYC משחקת תפקיד מרכזי, כי כל שיפור ב-throughput מתורגם ישירות לירידה בצריכת החשמל לאותה משימה.

ההוכחה בשדה כבר קיימת, דווקא באירופה, שם חוקי הריבונות הדיגיטלית מהמחמירים בעולם. הדוגמה הבולטת היא LUMI בפינלנד — מחשב-על שנבנה על ידי HPE ומופעל על AMD, ומשמש מנוע מרכזי למחקר אירופי ולפיתוח ארגוני. באותו קו נמצאות גם מערכות כמו Frontier במעבדה הלאומית Oak Ridge ו-Setonix ב-Pawsey, שמדגימות שאין סתירה בין תשתית sovereign-grade לבין ביצועי AI מהשורה הראשונה.

וזו לא סצנה שמתאימה רק למעבדות לאומיות. אותו כוח עיבוד מגיע גם ל-SMBs דרך פתרונות turnkey כמו HPE ProLiant Gen13, שמאפשרים הרצת training, fine-tuning ו-edge inference בלי להפוך את כל תשתית ה-IT על פיה. גם ניתוח שרשרת אספקה וקבלת החלטות בזמן אמת הם כבר לא נחלתם של ארגוני ענק בלבד.

בסופו של דבר, מה שקורה כאן הוא שינוי בעמדת המשא ומתן. הרגולציה הייתה פעם נטל, והיא הופכת למנוע הכנסה למי שמסוגל לספק AI בתוך הגבולות — פיזית ומשפטית. עבורכם, אנשי ה-tech, זה אומר עומסים חדשים, הזמנות של תשתית מבוזרת, ולקוחות שמוכנים לשלם כדי לא לזוז.