DeepInfra מקימה קלאסטר AI עם 1,000 מעבדי B300
DeepInfra הקימה קלאסטר עם אלף מעבדי Nvidia B300 ו-2 מגה-ואט חשמל במתקן חדש באורגון, במסגרת שותפות עם מעבדת ה-AI humans&. במקביל, חברת Compu Dynamics Modular משיקה קו מוצרים מודולרי שנועד להאיץ בניית דאטה סנטרים צפופים. שתי ההודעות מדגישות את המעבר מהתמקדות בתחרות בין מודלים להתמודדות עם אתגר התשתית הפיזית.
קפיצה קדימה במלחמת החומר
אנחנו נמצאים בנקודה שבה מרוץ החימוש ב-AI מפסיק להתמקד רק במודלים, ומתמקם בזירת התשתית. החדשות האחרונות מ-DeepInfra הן דוגמה מובהקת לכך: ענקית הענן ל-AI הודיעה על שיתוף פעולה עם מעבדת ה-AI humans&, שבמסגרתו יוקם קלאסטר ייעודי הכולל למעלה מאלף מעבדי ה-B300 החדשים של Nvidia, עם הספק חשמל של יותר מ-2 מגה-ואט. זו אחת הפריסות הגדולות ביותר של שירות DeepCluster של DeepInfra, והמסר ברור: כדי לבנות את הדור הבא של מודלים, צריך תשתית עוצמתית, מוכנה וזמינה כאן ועכשיו.
למה בעצם זה משנה עכשיו?
המעבר משלב הניסויים לשלב הייצור ב-AI מייצר ביקוש אדיר לכוח מחשוב אמין ובעל ביצועים גבוהים. DeepInfra, שכבר מפעילה פלטפורמת הסקה בענן (serverless inference), מרחיבה את ההיצע שלה באמצעות DeepCluster — שירות שמאפשר לחברות AI ולמעבדות לשכור תשתיות Nvidia ייעודיות במסגרת מנוהלת. הלקוחות לא צריכים לקנות שרתים, להקים חדרי שרתים או לנהל את המורכבויות הלוגיסטיות — הם מקבלים קלאסטר מוכן לעבודה.
מי הם השחקנים?
DeepInfra, שנוסדה ב-2022, הפכה לשחקנית משמעותית בתחום הסקת ה-AI בענן. הפלטפורמה שלה, שמותאמת לדרישות של ייצור, תומכת ב-200+ מודלים בקוד פתוח ומעבדת כמעט 10 טריליון טוקנים בשבוע. הנתון הזה, 10 טריליון טוקנים, נותן פרופורציה: מדובר בכמות אדירה של עבודת הסקה שמתבצעת על התשתיות שלהם. לשירות החדש שלהם, DeepCluster, יש מטרה ברורה: לתת מענה לאלה שצריכים אימון, מחקר ומשימות inference כבדות, לא סתם גישה מפוזרת למשאבים.
humans& מצדה היא מעבדת AI שמתמקדת בפיתוח מודלי יסוד (foundation models) שנועדו לשפר שיתופי פעולה ותקשורת בין אנשים. לדבריהם, ה-AI שלהם לא פועל לבדו, אלא עוזר לקבוצות אנושיות. כדי לפתח את הטכנולוגיות הללו, הם צריכים כמות משמעותית של כוח מחשוב מהיום הראשון. שיתוף הפעולה עם DeepInfra לא מקרי: ג'ורג'ס חאריק (Georges Harik), מייסד שותף ב-humans&, הוביל את סבב הגיוס B של DeepInfra. כך נוצר מצב שבו משקיע מפתח הפך ללקוח אסטרטגי, מה שמחזק את ביטחון הצדדים ומעמיק את האקוסיסטם כאן.
מה מתחמם מאחורי הקלעים?
באותו השבוע, שחקנית אחרת הציגה פתרון משלים מזווית אחרת: Compu Dynamics Modular (CDM). החברה, שבסיסה ב-Fremont, וירג'יניה, השיקה פורטפוליו חדש של תשתיות מודולריות למתקני דאטה סנטרים, המיועד בדיוק לאתגרים שהצמיחה הזו יוצרת.
הבעיה שאיתה מתמודדות חברות ה-AI ברורה: דור המעבדים הבא, כמו ה-B300, צפוי לדחוף את הצפיפות בכל rack לעשרות רבות של קילוואטים. זה מפעיל לחץ עצום על עיצוב ובנייה מסורתיים של דאטה סנטרים, הן מבחינת זמן ההקמה והן מבחינת ניהול החום והחשמל. CDM עונה על זה עם גישה של "מפעל תעשייתי": הם מציעים מודולים טרומיים, מהונדסים בסטנדרט, שמגיעים בקונפיגורציות שונות:
- מודול All-in-One של 750 kW: פתרון קומפקטי ל-edge AI או למרחבים צפופים.
- מודול בסיס של 1.5 MW: הלב של הפלטפורמה, עם שטח IT צפוף, הספק של 2 MW וקירור היברידי.
- פתרון AI מודולרי של 3 MW: שני מודולי בסיס מחוברים, לפעילויות AI בקנה מידה בינוני.
- מפעל AI "מפתח" של 5–6 MW: יחידה בקנה מידה של קמפוס, עם מערכת חשמל עמידה, המיועדת לאימון מודלי יסוד ולסביבות קולוקציה.
הארכיטקטורה מאפשרת פריסה מהירה, התרחבות הדרגתית — מ-750 kW עד 50 MW ומעלה — וכוללת קירור היברידי (אוויר + נוזל ישירות לצ'יפ) וניהול עומסים דינמי. "ה-AI מכריח את התעשייה לחשוב מחדש לא רק על מראה תשתיות הדאטה סנטר, אלא גם על המהירות ועל מידת הוודאות שבהן ניתן להעמיד אותן", אומר סטיב אלטיזר (Steve Altizer), נשיא ומנכ"ל Compu Dynamics.
אז מה בעצם קרה כאן?
בשבוע אחד קיבלנו שתי הודעות שמשלימות זו את זו. הראשונה היא שותפות אסטרטגית שמספקת כוח מחשוב מתקדם (ה-B300) ללקוחות קצה כמו מעבדת AI חדשנית. השנייה היא הצהרה על פתרון תשתיתי שנועד להפוך את בנייתם ושדרוגם של מתקני הדאטה סנטר עצמם למהירים, צפויים וניתנים להרחבה. שתיהן עונות על צוואר הבקבוק האמיתי של ה-AI הנוכחי: לא רק מודלים מתוחכמים, אלא גם התשתיות הפיזיות והענן שקשה להשיג. ה-AI נתקע — והשוק בונה את הכבישים.