NVIDIA קובעת: performance per watt מגדיר רווחיות ב-AI
מדד ה-performance per watt הופך למרכזי בחוות AI, כש-NVIDIA מובילה שיפורים של פי 25 ביעילות לעומת דורות קודמים. המעבר נדחף על ידי גבולות חשמל וצורך ברווחיות, כאשר חברות כמו Anthropic כבר מיישמות. אחסון SSD מתקדם, כמו ה-122 טרה-בייט של Solidigm, מאפשר הפחתת צריכת חשמל ב-80%, מפנה אנרגיה ל-GPUs ומניע ארכיטקטורות חדשות.
המדד שמעצב מחדש את חוות AI
שכחו מ-FLOPS גולמיים; המדד שקובע היום את הרווחיות בחוות AI הוא performance per watt. המעבר הזה נדחף על ידי הבום בעומסי עבודה של AI, במיוחד עם עליית ה-AI האג'נטי שדורש זיכרון הקשר הולך וגדל. אבי שטי, סגן נשיא ב-Solidigm, מסביר ש-token per watt הפך למדד הדאטה סנטר החדש. "פרומפט בודד – למשל, 'אנחנו בפריז, תן לי חמש המלצות למסעדות' – מתרגם ל-13 גיגה-בייט של נתונים כשמחשבים פעילויות מערכת, בקשות מסד נתונים," הוא אמר. "כשמתרחש eviction, צריך לבנות מחדש את ה-cache, וה-GPU ממתין – וזה לא יכול לקרות."
למה אחסון הופך לשביל קריטי
זה שם את האחסון במרכז. KV cache offload, pipelines של נתוני inference וחלונות הקשר מתרחבים יוצרים שכבת אחסון חדשה בקלאסטרים של AI, שקובעת אם GPUs נשארים עסוקים או יושבים מיותמים. Solidigm, למשל, מפעילה את AI Central Lab – מוקטן של חוות מגה-ואט אמיתית – כדי לאמת ארכיטקטורות רפרנס בקנה מידה פטה-בייט. הם מדגימים ביצועים ליניאריים מ-1 עד 32 צמתים, עם ה-SSD שלהם בנפח 122 טרה-בייט. 24 כוננים ב-1U rack נותנים 4 פטה-בייט אחסון, ומקצרים 12 racks של כוננים קשיחים לאחד – עם הפחתה של 80-90% בצריכת חשמל. החשמל הזה מפנה מקום ל-GPUs, לדברי שטי.
NVIDIA דוחפת performance per watt כבסיס למפעלי AI
NVIDIA רואה ב-performance per watt את המדד שאי אפשר לזייף, רק להרוויח מתוצאות בעולם האמיתי. הבלוג שלהם מדגיש שהפלטפורמה Blackwell NVL72, למשל, מספקת עד פי 25 שיפור ב-performance per watt בהשוואה לדור Hopper, בהתבסס על מודלים פתוחים חדשים. "אף אחד לא מתעניין בקריאה אקראית בדאטאשיט," אמר שטי. "מה שחשוב זה איך זה פועל בחוות AI ובעומס AI."
המיקוד הזה מחדש את כל הערימה. NVIDIA מדגימה עקומי Pareto למודלים שונים, ומציעה כלים כמו DynomSim כדי למצוא את הנקודה האופטימלית לפני שמוציאים שעת GPU אחת על אימות. התוכנה שלהם, כולל Dynamo ו-TensorRT LLM, מצטברת אופטימיזציות כמו NVFP4 quantization, disaggregated serving ו-KV-aware routing. למשל, על DeepSeek V4, performance per watt השתפר עד פי 5 בחודש אחד.
בנוסף, DSX MaxLPS של NVIDIA מטפל באובדן חשמל לקירור, ומאפשר הרצת עד 40% יותר GPUs באותו תקציב חשמל. "במפעלי AI, רק כ-60% מהחשמל מהרשת הופך לעבודת AI שימושית," הם מציינים.
מקרי מבחן מהשטח: מי כבר משתמש בזה
NVIDIA מציינת חברות כמו Anthropic, OpenAI, CoreWeave, Perplexity ו-Fireworks AI שכבר משתמשות במערכות Blackwell לייצור inference. לדוגמה, Perplexity מריצה מודלים כמו Qwen3 235B על GB200 NVL72 לשירות מיליוני שאילתות יומיות עם השהייה שהצרכנים צריכים. CoreWeave פרסה Kimi K2.6 על GB300 NVL72, ומשלבת NVFP4 quantization ו-EAGLE3 speculative decoding כדי למקסם ביצועים.
Solidigm גם עיצבה SSD מקורר בנוזל ראשון עם NVIDIA לתמיכה בארכיטקטורות data center ללא מאווררים, שבהן החום מהביצועים הקיצוניים הוא אילוץ קשה.
מה הלאה: הקרב על היעילות
ככל ש-AI הופך ליותר אג'נטי וצורך יותר חשמל, המדד הזה יגדיר מי מתרחב ומי לא. ה-Vera Rubin של NVIDIA בונה על היסוד של Blackwell כדי להגביר עוד יותר יעילות אנרגטית ברמת rack, עם יכולות כמו NVLink Switch מותאם לעומסי AI.
בסופו של דבר, זה לא רק על ביצועים; זה על כמה ביצועים אפשר להוציא מכל וואט. בעולם שבו החשמל הוא האילוץ הקשה, מי ששולט ב-performance per watt שולט בשוק – או לפחות בחשבון החשמל.