CFOs, עלות טוקני ה-AI בולסת לכם את התקציב
דוח של Accenture חושף שחברות מזלזלות בעלויות טוקנים של AI, שהופכות למרכזיות עבור CFOs. 75% ממנהיגי הפיננסים הגדילו תקציבי טכנולוגיה ל-2026, אך רבים הולכים "בחושך" לגבי צריכת הטוקנים. גולדמן זאקס מעריך שהוצאות AI יעברו 800 מיליארד דולר בשנה, אך רק 23% מהארגונים מדווחים על ערך עסקי נרחב.
רוב ה-CFOs לא יודעים מאיפה כל חיובי ה-tokens האלה מגיעים. הם פשוט מקבלים את החשבון. לדברי לן גואן, מנהלת AI ונתונים ראשית ב-Accenture, חברות נתקלות ב'קירות עלות' מפתיעים כשהן מנסות להגדיל את השימוש ב-AI. החדשות הרעות: הנתון הזה הולך ותופח.
מה בעצם קרה כאן?
Accenture פרסמה דוח חדש, וברקע - חברות ענק רואות את חשבונות ה-AI שלהן מתנפחים. לדברי גואן, לקוח קמעונאי פרס מנוע המלצות מבוסס AI בחנויות פיילוט, וקיבל חשבון ענן חודשי של מיליונים, בעיקר בגלל צריכת טוקנים. המכירות עלו, אבל מבנה העלויות לא נלקח בחשבון.
התופעה הזו לא מוגבלת. ממחקר של Clearwater Analytics בקרב 178 בכירים בתעשיית ניהול הנכסים, עולה שרוב חברות הניהול מתכננות להעלות את תקציבי ה-AI שלהן בלפחות 50% בשנה הקרובה. זו תמונת מראה לנתון ש-Kiplinger מציינים: שלושה רבעים ממנהיגי הפיננסים העלו תקציבי טכנולוגיה ל-2026, כמעט חצי מהם ב-10% או יותר.
אז מה זה token, ולמה זה נהיה יקר?
Tokens הם היחידות הבסיסיות שמניעות כל אינטראקציה של AI. כל שאלה, כל תשובה, כל הפעלה של agent אוטונומי - כולם צורכים טוקנים. ככל שהמודלים נעשים מתוחכמים יותר, השימוש יכול להגיע ממיליונים לטריליונים. Accenture, למשל, מעבדת פלטפורמה פנימית אחת שמעבדת כ-8.7 טריליון טוקנים בשבוע. זו כמות שקשה לתפוס.
גולדמן זאקס מעריך שהוצאות קשורות AI יגיעו ליותר מ-800 מיליארד דולר ב-2026. זה מספר ענק, אבל שימו לב: רק 23% מהמנהיגים בדרג C שנסקרו על ידי Accenture מדווחים על ערך עסקי נרחב ומתמשך מ-AI בארגון שלהם. הפער בין ההוצאה לערך המוכח הוא הבעיה.
שלושת הטעויות שתקציבני AI עושים
1. מתייחסים ל-AI כהוצאה קבועה: התוכנות הישנות עלו אותו דבר כל חודש. AI עובד על צריכה. שני עובדים עם אותו רישיון יכולים לייצר חשבונות שונים לגמרי - אחד מפעיל דוחות ארוכים כל היום, השני שואל שאלה פעמיים בשבוע. זה משבש תקציב שנתי קבוע.
2. מתמחרים רק את חשבון הטוקנים: החשבון מהספק הוא רק החלק הגלוי. העלויות הנסתרות - זמן הבדיקה האנושי לפני שליחת עבודה ללקוח, הדרכת עובדים, תחזוקת ממשל ותאימות - הן משמעותיות ועולות עם האימוץ. אם לא מתקצבים אותן ביחד, תפספסו את החלק שמחזיק אתכם מחוץ לצרות.
3. לא מודדים צריכה: מניתוח פנימי ב-Accenture, השימוש בכלי AI יחיד גדל פי 113 תוך 10 שבועות, כאשר 19% מהמשתמשים אחראים ל-80% מההוצאה. בלי ראות, CFOs הולכים בחושך.
איך מתמודדים? שלושה צעדים של Accenture
גואן מציגה מסגרת "ראה, טפל, נהל":
- ראו: קבלו ראות היכן השימוש בטוקנים מתרחש. זה לא חשבון סיכום מעורפל.
- טפלו: אופטימיזציה של ארכיטקטורה - שלחו משימות למודלים המתאימים. Accenture מצאה שרק 10-20% מהמשימות הארגוניות מספיק מורכבות כדי להצדיק מודל מתקדם (frontier). הם פיתחו "AI Token Navigator" שמפנה עומסים למודל המתאים (מתקדם, בינוני, open-weight), מה שמפחית עלויות לשישית לעומת שימוש עיוור במודלים היקרים.
- נהלו: הפכו מודעות עלויות לחלק מההתנהגות היומיומית. זה מאמץ בין-מחלקתי - טכנולוגיה, פיננסים, סייבר.
מה זה אומר עליכם, עובדי ההייטק?
עבורכם, זו תזכורת. הפרויקטים שאתם בונים - אם אתם מהנדסי ML, מפתחי מוצר, או ארכיטקטים - מטפסים עכשיו במדרג הפיננסי של הארגון. ה-CFO שלכם שומע "טוקנים" יותר מ"ענן". הבנת הכלכלה הזו (tokenomics) הופכת לחיונית. אם אתם יכולים להציע דרכים לייעל צריכה (בחירת מודל נכון, אופטימיזציה של פרומפטים, ניהול cache), אתם לא רק חוסכים כסף - אתם הופכים לשותף אסטרטגי. בעולם שבו פחות מ-1% מהמנהלים מדווחים על החזרי ROI של 20% מ-AI, יעילות עלות היא היתרון התחרותי הבא.
ואם תהיתם, אז כן - גם ב-Accenture, כשהם בודקים את עצמם, מגלים שההוצאות גדלות מהר יותר מהערך. הטריק הוא לרתום את הצריכה, לא רק לשלם עליה.