Gartner: עלויות ה-Inference ל-Agentic AI יזנקו פי חמישה
מחקר Gartner מנבא שמחירי ה-Tokens ירדו ב-95% עד 2030, אך עלויות ה-Inference ל-Agentic AI יקפצו ביותר מפי חמישה עד 2028. הפרדוקס הזה נובע מקצב חדשנות מהיר שמעלה את הצריכה הכוללת, מה שמאלץ חברות לפתח מערכות AI מורכבות ויקרות יותר כדי להישאר תחרותיות.
מחירי ה-Tokens למודלים של בינה מלאכותית צונחים, אז למה חשבון ההוצאות על AI רק הולך ותופח? זו השאלה שמטרידה את Gartner, שפרסמה מחקר חדש המציג תמונה הפוכה ממה שרוב החברות ציפו.
אז מה בעצם קרה כאן?
Gartner מנבאת ירידה חדה של 95% בעלויות ה-Tokens עד 2030, אבל במקביל טוענת שעלות ה-Inference עבור תהליכי עבודה סוכניים (Agentic AI) תקפוץ ביותר מפי חמישה בשנתיים הקרובות. במילים אחרות, המחיר ליחידה יורד, אבל הצריכה הכוללת מזנקת כל כך מהר, שהוצאות ה-AI גדלות.
המונח שהם טבעו לזה הוא פרדוקס ה-Inference: קצב החדשנות בעולם ה-AI מהיר יותר מקצב ירידת המחירים. התוצאה? אשליית הוזלה מסוכנת.
למה זה קורה? ה-Chatbot מול ה-Agentic AI
חשבו על ההבדל בין צ'אטבוט בסיסי לסוכן AI (Agent). צ'אטבוט פשוט מקבל שאלה, מעבד אותה במהירות ומחזיר תשובה סבירה. סוכן AI, לעומת זאת, צריך לחשוב, לנהל משא ומתן עם עצמו, לשאול שאלות ולתכנן מספר צעדים קדימה.
כל שלב כזה צורך כמות גדולה של Tokens, שלעתים קרובות גם יקרים יותר. Gartner מעריכה שהפניית משימה למודל שמפעיל יכולות סוכניות מעלה את עלויות ה-Inference של הספק ביותר מפי חמישה, ועם עלייה במורכבות המשימה, העלות גדלה אף יותר.
מה זה אומר עליכם?
Will Sommer, אנליסט בכיר ב-Gartner, מבהיר: "מנהיגי מוצר לא יכולים לסמוך על כלכלת Tokens יעילה יותר כדי להצדיק עלויות AI. כל דור חדש של יכולות AI ידרוש יותר Tokens, ולעתים קרובות יותר יקרים. אין מודל אחד חסכוני ואמין שמתאים לכולם. ייצור מוצרי AI תחרותיים ידרוש בנייה ותחזוקה של מערכות אקולוגיות מורכבות של מספר מודלים."
זה אומר שמי שמסתמך על מודל כללי ואוטונומי יתמודד עם עלויות בסדרי גודל גבוהים יותר מאשר מי שבונה מערכת אקולוגית שעברה אופטימיזציה.
ניהול עלויות: לא רק יעילות
המסר המרכזי הוא שניהול עלויות Inference הפך למשימה קריטית. הורדת מחירי ה-Tokens לא תתבטא אוטומטית ברווחיות שלכם. צריך לבנות מערכות חכמות שמתאימות את המודל הנכון למשימה הנכונה, עם ניתוב ואופטימיזציה של זרימת העבודה.
Gartner מציינת שלוש מגמות עיקריות: מודלים בסיסיים נעשים משתלמים יותר, היעילות המוגברת מאפשרת פריסת מודלים חזקים יותר אך יקרים יותר, ותהליכי עבודה מורכבים צורכים הרבה יותר Tokens מאינטראקציות פשוטות.
המחיר של חדשנות
בסופו של דבר, הפרדוקס הזה מאלץ את התעשייה להתמודד עם מציאות חדשה: חדשנות עולה כסף. ככל שה-AI הופך למתוחכם יותר, כך גדלות ההוצאות הקשורות אליו.
אז בפעם הבאה שאתם מתכננים להטמיע AI, כדאי לזכור: ירידת מחירי ה-Tokens לא פותרת את בעיית העלויות הכוללות. צריך תוכנית עסקית שמתמודדת עם פרדוקס ה-Inference.