הביקוש לאנרגיה של ה־AI מעלה חשבונות חשמל בארה"ב

דו"ח חדש של פורבס חושף כי הביקוש הגואה של מרכזי נתונים ל־AI בארה"ב הוביל לעלייה של 30% בחשבונות החשמל מאז 2021 — פי שניים משיעור האינפלציה הכללית. לפי מחקר של אוניברסיטת קרנגי מלון, עד 2030 צפויה עלייה של 8% בממוצע במחירי החשמל למשק בית, עם זינוקים של עד 25% באזורים מסוימים.

מדינות כמו ג'ורג'יה ואוהיו החלו ביישום מדיניות להגנת הצרכנים, כולל הטלת אחריות תשלום על חברות הטק עבור תשתיות החשמל. פרויקטים כמו מרכז הנתונים Prometheus של מטא באוהיו (המתפרש על 5 ג'יגה־וואט) מאיצים את המשבר, כאשר תאגידי ענק כמו גוגל פונים לפתרונות רדיקליים כמו כורים גרעיניים מתקדמים.

מרוץ התשתיות: מעבדים מהירים יותר, מרכזי נתונים גדולים יותר

בכנס AI Infra Summit בקליפורניה התריעו נציגי מטא ו־Nvidia על פער מדאיג בין קצב פיתוח מודלי הבינה המלאכותית (המושקים מדי שבוע) לבין היכולת לבנות תשתיות תומכות (הנמדדת בשנים).

Nvidia הציגה את שבב Rubin CPX החדש המבצע Inferencing מהיר פי שלושה לדגמי שפה גדולים (LLM), בעוד חברות כמו Kove ו־Lightmatter מתמקדות בפתרון צווארי בקבוק בזיכרון ובתקשורת:

• Kove הדגימה זיכרון תוכנה המאפשר עומסי עבודה גדולים פי 5
• Lightmatter גייסה 850 מיליון דולר לפיתוח שבבי סיליקון פוטוניים

"הקפיצה הבאה של פי 1,000 בחישוב תהיה תלויה כולה ברוחב הפס", הדגיש ניק האריס מ־Lightmatter.

הגיבורים הסמויים של מהפכת ה־AI: מתגי PCIe

מאמר ב־Semiconductor Engineering מאיר תפקיד מפתיע במהפכת הבינה המלאכותית — מתגי PCI Express (PCIe). רכיבי חומרה אלו, שבעבר נחשבו לפריט שולי, הפכו לתשתית קריטית למערכי AI מתקדמים בזכות:

1. יכולת תקשורת Peer-to-Peer בין GPU-ים ללא מעורבות מעבד
2. קיבולת רוחב פס דינמית עם השיערוך אוטומטי של ערוצים
3. עמידה בדרישות פרוטוקול CXL לשיתוף זיכרון קוהרנטי
4. השהות נמוכה במיוחד (1-5 מיקרו־שניות) בהשוואה לרשתות מבוססות Ethernet

"כשחושבים על AI מדמיינים רובוטים, אבל בפועל מערכות אלו תלויות ברכיבים כמו מתגי PCIe שיודעים לנהל תנועת נתונים בעצימות גבוהה ביעילות", מסביר המאמר.

השילוב בין עליית הביקוש לאנרגיה, מרוץ החומרה וחדשנות בתשתיות התקשורת מגדיר מחדש את אתגר הטמעת ה־AI — הן עבור תעשיית הטק והן עבור הצרכן הסופי.