תקציבי ה-AI מזנקים: העלויות מאיימות על התוכניות

הדו״ח שכולם מדברים עליו

שלושה רבעים ממנהלי הכספים בעולם העלו את תקציבי הטכנולוגיה שלהם לשנת 2026, וכמעט מחציתם ב-10% ומעלה. חברות השירותים הפיננסיים מובילות את המגמה עם עליות של כ-15%, כך עולה מדו״ח חדש של Accenture. אבל לפני שאתם מתלהבים מהגידול, כדאי שתשאלו שאלה קריטית יותר: האם אתם יודעים בדיוק על מה הכסף הזה ילך?

הבעיה: העלויות שאתם לא מעריכים

סקר חדש של Accenture חושף בעיה מרכזית שצצה לאחרונה: הרבה חברות פשוט מעריכות לא נכון את העלות של הסקייל של הבינה המלאכותית. המוקד? טוקנים.

"עלות הטוקנים ב-Cloud Code שלי יורה דרך הגג – ואני מנהל את השיחה הזאת עם ה-CFO בלי סוף", אומרת לן גואן, מנהלת ה-AI והנתונים הראשית ב-Accenture. "לקוחות מוכנים לסקייל AI, ואז הם נתקלים בקיר עלויות בלתי צפוי".

לפי הדו״ח, הרבה מ-CFOs בחברות הגדולות בכלל לא יודעים מאיפה העלויות האלה מגיעות. הם פשוט מקבלים את החשבון. השאלות שצפות: מי משתמש בטוקנים? מי בונה agents? איזה מוצר תורם הכי הרבה לצריכה? "הם אומרים לי שהם הולכים בחושך", מציינת גואן.

מקרה בוחן: חשבון עתק מפתיע

לקוח קמעונאי, למשל, פרס מנוע המלצות מבוסס AI במספר חנויות פיילוט. התוצאה: חשבון ענן חודשי בסכומים של מיליוני דולרים, שנבע בעיקר מצריכת טוקנים. "המכירות עלו", אומרת גואן, "אבל מבנה העלויות לא היה צפוי".

מה עומד מאחורי המספרים?

גולדמן זאקס מדווח שההוצאות הקשורות ל-AI צפויות להגיע ל-800 מיליארד דולר ב-2026. אבל מתוך זה, רק 23% מה-C-Suite מדווחים על ערך עסקי רחב ובר-קיימא מה-AI בארגון שלהם.

ב-Accenture, אחת הפלטפורמות הפנימיות שלהם מעבדת כ-8.7 טריליון טוקנים בשבוע. כדי לנהל את זה, הם פיתחו כלי בשם "AI Token Navigator", שמסליל עומסים למודל המתאים (חדשני, ביניים, או open-weight) לפי מורכבות המשימה והחשיבות העסקית. לדברי גואן, גישה זו יכולה להפחית עלויות לשישית מהעלות של שימוש אך ורק במודלים עליונים, שהם היקרים ביותר.

Accenture מעריכה שרק 10-20% מהמשימות הארגוניות מורכבות מספיק כדי להצדיק מודל חדשני.

לאן הולך הכסף שלכם?

שלושה צעדים ל-CFO

גואן מציינת את "פרדוקס ג'בונס": ככל שה-AI נהיה זול ונגיש יותר, העובדים משתמשים בו בתדירות גבוהה יותר – ולעיתים קרובות בוחרים במודלים החזקים והיקרים ביותר. "התנהגויות כאלה, כשהן מתרבות בכוח העבודה, הן המקום שבו עלויות הצריכה מתנפחות בשקט", היא מסבירה.

לכן, ב-Accenture דוחפים לניהול טוקנים כמשמעת ארגונית. הנה שלושה צעדים:

1. ראו את זה: קבלו נראות היכן השימוש בטוקנים קורה. CFOs רואים רק חשבונות מצטברים. בניתוח פנימי, Accenture מצאה שהשימוש בכלי AI אחד גדל פי 113 תוך 10 שבועות, כאשר 19% מהמשתמשים אחראים לכ-80% מההוצאה.
2. טפלו בזה: ארכיטקטורה אופטימלית – סלילת משימות למודלים הנכונים וזיהוי חוסר יעילות.
3. נהלו את זה: הטמיעו ניטור מתמשך ושינוי התנהגותי, והשרו מודעות לעלות בשימוש היומיומי ב-AI.

"זה ספורט קבוצתי", מדגישה גואן. "דרוש תיאום בין מימון, טכנולוגיה, ואפילו סייבר, שיכול להוסיף 'מס צל' לעלויות ה-AI".

מסקנה: תקציב AI הוא כבר קבוע

אז מה בעצם עושים?

התקציב גדל – זו עובדה מוגמרת. אבל הדרך שבה תתכננו אותו היא מה שיקבע אם הכסף הזה יעבוד בשבילכם או יתבזבז.

ה-CFO שיטפל בזה כעלות משתנה, יקשור אותו לתוצאות מדידות ויעדכן אותו רבעונית – יצליח לפרוס הון היכן שהוא מניב. מי שיקבע סכום קבוע בינואר, יבלה את השנה מסביר סטיות.