המחיר הנסתר של ה-AI האג'נטי

תתארו לכם שתשובה של צ'אטבוט רגיל צורכת אנרגיה של נורת LED לכמה דקות. משימת AI agent? זה כמו להשאיר את הנורה דולקת יום שלם. זה מה שמחקר חדש מ-KAIST חושף, והוא מציג אתגר אנרגטי עצום לתעשיית ה-AI.

מהמחקר ומהממצאים

חוקרים מ-KAIST, המכון הטכנולוגי המוביל בדרום קוריאה, בראשות Minsoo Rhu ו-Jiin Kim, הציגו את הממצאים בכנס HPCA בפברואר. הם השוו את צריכת האנרגיה של סוכני AI לזו של צ'אטבוטים רגילים. בבדיקה עם Reflexion framework על מודל ה-Llama 70B של Meta, משימה אחת צרכה 348.41 Wh – לעומת 2.55 Wh לתשובה רגילה. זה פי 136.5, אבל זה הגרוע ביותר; מסגרות אחרות כמו LATS צרכו פי 62 יותר. ציטוט של פי 136.5 כמחיר של AI אג'נטי זה כמו לצטט את חשבון הדלק של המכונית הכי צמאת דלק בחצר כמחיר הנהיגה – זה מייצג את הקצה, לא את הנורמה.

המנגנון: למה הסוכנים כל כך זוללי חשמל?

בניגוד לצ'אטבוטים שמקבלים שאלה ועונים, סוכנים עובדים בלולאות: מתכננים, קוראים לכלי כמו ממשק API, ממתינים לתוצאה, ואז מתכננים מחדש. כל מעבר כזה דרך המודל צורך אנרגיה, וההמתנה הזו יקרה יותר ממה שאנשים מצפים. החוקרים מצאו שבמשימות עשירות בכלי, ה-GPU היקרים ישבו מיותמים עד 54.5% מהזמן, צורכים חשמל בזמן שהם ממתינים למשהו מחוץ לשבב. זה לא יעילות שולית; זו הכלכליות של המוצר. תוסיפו לזה שה-latency יכול להיות פי 153.7 יותר ארוך מאשר שאילתה פשוטה – אי אפשר לבצע אופטימיזציה ללנטייסי שיצרתם מלכתחילה.

ההשלכות על צריכת החשמל

המחקר מעריך שאם השימוש בסוכנים יגיע ל-13.7 מיליארד בקשות ביום – נפח דומה לחיפוש גוגל – מרכזי נתונים יצטרכו כ-199 GW, כמחצית מצריכת החשמל הנוכחית של ארה"ב. אבל זה תרחיש קצה היפותטי, לא תחזית מעשית; כותבי המחקר עצמם מדגישים שזה "מה-אם" שנועד להראות את צורת הסיכון. עם זאת, תחזיות שמרניות יותר עדיין מטרידות: מרכז Lawrence Berkeley הלאומי מעריך שמרכזי נתונים בארה"ב יוכלו להגיע ל-12% מהחשמל הלאומי עד 2028, וה-IEA צופה הכפלת הצריכה העולמית ל-945 TWh עד 2030. אף אחת מהתחזיות הללו לא מתמחרת את האפשרות שהשאילתה הממוצעת תהפוך לסדר גודל כבד יותר עם המעבר מ-AI שעונה ל-AI שפועל.

המציאות כבר כאן

סוכנים לא רעיוניים; הם פה. מעל 200,000 סוכנים רשומים ברשת החברתית Moltbook, כ-400,000 אושרו לשימוש ב-stablecoin UDSC, וחברות כמו גוגל בונות אותם לתוך חוויית הגלישה. אז, בעוד אנחנו מתמקדים בלהוזיל מודלים, העלויות הנסתרות האלה מאיימות לשנות את הכלכלה של מרכזי data center. בסוף, הגבול בין יעילות לבין צריכת משאבים עשוי להיות השאלה האמיתית לשנים הקרובות.