המתג הישראלי שיחבר 100,000 GPUs: Spectrum-6 של אנבידיה

בזמן שכולם מתלהבים ממודלי AI חדשים, יש כאן פרט קריטי שבלעדיו כל המאמץ הזה קורס: הרשת. כשאתם מאמנים מודל על אלפי GPUs, אם אחד מהם נתקע – כל העבודה מתעכבת. אנבידיה, עם פיתוח ישראלי חדש, רוצה לפתור את זה אחת ולתמיד.

הערב (ג') הכריזה אנבידיה על Spectrum-6, מתג Ethernet שפותח במרכז המו"פ הישראלי של החברה. המתג מציע קצב העברת נתונים של 102.4 טרה-ביט לשנייה – פי שניים מהדור הקודם. זה לא עוד שיפור; זו קפיצה שמאפשרת לחבר מאות אלפי GPUs בקנה מידה שנקרא "מפעלי AI" (AI factories), ולמעשה להפוך אותם למערכת מחשוב אחת ענקית.

למה רשת כל כך קריטית?

אימון מודלי AI גדולים, כמו אלה שמפעילים שירותי בינה מתקדמים, דורש עבודת צוות מסונכרנת בין אלפי מעבדים. הם מחליפים ביניהם נתונים ברצף, בתקשורת "מזרח-מערב" אינטנסיבית – הרבה מאוד מכשירים שמשדרים וקולטים בו-זמנית. Ethernet רגיל, שתוכנן יותר לתעבורה צפון-דרום בין משתמשים לשרתים, לא מיועד לזה.

כאן נכנס Spectrum-X, הפלטפורמה של אנבידיה שה-Spectrum-6 הוא הלב שלה. היא הופכת Ethernet ל"מארג" ייעודי ל-AI, עם תוכנה חכמה שמוודאת שכל GPU מקבל את הנתונים שהוא צריך, בלי צווארי בקבוק. לפי אנבידיה, הפלטפורמה מספקת ביצועי רשת עד 1.6x טובים יותר מ-Ethernet רגיל, ושומרת על יעילות רשת של 95% גם בהיקפים של מעל 100,000 GPUs.

מי מאמץ?

המתג החדש כבר נקלט על ידי שמות גדולים בתעשייה. מיקרוסופט, SpaceXAI, טסלה, CoreWeave ו-Nebius יהיו בין הראשונות לפרוס אותו בדאטה-סנטרים שלהן, כחלק מפלטפורמת ה-Vera Rubin הכוללת של אנבידיה. "CoreWeave בנויה לעומסי AI תובעניים, ורשת מהירה היא רכיב מרכזי", אמר Min Jun, מנהל מוצר רשתות ב-CoreWeave. "שילוב Spectrum-6 יעניק ללקוחות רוחב פס, חוסן ויעילות לאימון מודלי חזית מהיר יותר."

"בקנה מידה ענקי, ביצועים תלויים בתיאום: שמירה על אחידות בין כל ה-GPUs כך שקישור איטי אחד לא יאט משימה שלמה", הוסיפה Laurelle Roseman, סגנית נשיא שותפויות גלובליות ב-Nebius. "לכן שילבנו את Spectrum-6 מוקדם – מארג שנשאר מהיר וחסין כשהעומסים גדלים."

מה הישראלי כאן?

חוץ מהעובדה שה-Spectrum-6 פותח בישראל – מה שנותן נקודת גאווה מקומית בתעשייה – זה גם מסמן שהמרכז הישראלי של אנבידיה ממשיך לייצר חומרה קריטית לעידן ה-AI. המתג תומך בקירור נוזלי, מה שמאפשר גישה חסכונית באנרגיה לכל המפעל, ומשלב אופטיקה מתקדמת. בקיצור, הם לא רק עשו את זה מהיר יותר; הם עשו את זה חכם יותר.

אז מה זה אומר לנו?

בתכלס, זה אומר שמי שרץ קדימה במרוץ ה-AI – סטארטאפים, חברות ענן, יצרניות רכב – יוכל לאמן מודלים מהר יותר ולהריץ אותם בזול יותר. אם אתם מפתחים על תשתית של אחת מהחברות האלה, ייתכן שתשימו לב לזמני תגובה טובים יותר. ואם אתם מתעסקים בתשתיות, אז ה-Spectrum-6 הוא עוד דוגמה לאיך שהחומרה הופכת לפקטור מרכזי במשחק.

בסופו של דבר, בעולם שבו כולם רצים אחרי מודלים גדולים יותר, לפעמים המנצח הוא זה עם הכבל הכי מהיר.