SoftwareOne: אותה תוצאה, חשבון AI שגדל פי 100

הבעיה הגדולה ביותר בהוצאות AI? אף אחד לא באמת יודע כמה עולה תוצאה מוצלחת אחת

רוב מנהלי ה-IT יודעים בדיוק כמה עלה הפיילוט ביום האישור. תשאלו אותם כמה הוא עולה היום – ותקבלו משיכת כתף. הפער הזה לא נמדד ברבעונים; שלושה מספרים שפורסמו לאחרונה הופכים אותו לקריטריון ש-CFOs לא יכולים להתעלם ממנו.

דולר אחד מול סנט אחד: אותה תוצאה, פי מאה במחיר

ניקח תהליך שירות לקוחות שפותר פניות בעזרת AI. אם מריצים אותו נכון – מודל נכון למשימה, פרומפט נקי – המחיר הוא כ-12 סנט לפתרון. אם משתמשים במודל גדול מדי עם פרומפטים מנופחים, המחיר קופץ ל-12 דולר. אותה תוצאה, אותו לקוח, פי 100 בחשבון. בכל סעיף תקציבי אחר אנשי הכספים היו קוראים לזה כשל בקרה. בהוצאות AI? כרגע זה בלתי נראה, כי כמעט אף אחד לא מודד עלות ברמת התוצאה הבודדת.

50% מהתקציב יושב על השולחן

המספר השני שכדאי לזכור: 50% – זו ההפחתה הזמינה בעלויות מודלים רק מהתאמה נכונה בין יכולת המודל למשימה. הצוותים שולפים את המודל הכי חזק ויקר לכל משימה, כולל כאלה שלא דורשות אותו. מודל frontier עולה פי 10–20 לטוקן ממודל קטן יותר ומותאם למשימה, ולרוב התוספת הזו לא קונה שום דבר. התאמה נכונה של מודל למשימה – בלי כלי חדש, בלי תקנים חדשים, בלי שינוי ארכיטקטורה – יכולה לקצץ 30%–50% מהוצאות AI מבלי לפגוע באיכות.

פי שלושה מהתקציב – בשישה שבועות

במגזר הפיננסי, צוות של 20 עורכי דין קיבל כלי AI לבדיקת חוזים. תוך שישה שבועות חשבון ה-API עבר את התקציב המאושר פי שלושה. הכלי עבד בדיוק כמו שתוכנן. מה שהיה חסר היה מדיניות שימוש: העובדים העלו ארכיוני מסמכים שלמים במקום חוזים בודדים, ואף אחד לא שם גדרות. הטרנד הזה חוצה תעשיות כרגע – הטכנולוגיה עובדת, המשילות לא.

אז מה בעצם קרה כאן?

שלושת המספרים האלה לא עוסקים בטכנולוגיה. הם עוסקים במשמעת ניהולית שנופלת מאחורי מבנה עלויות שהשתנה מתחת לרגליים. הוצאות IT מסורתיות היו צפויות – רישיונות פעם בשנה, חומרה עם פחת מתוזמן. הוצאות AI משתנות בהתאם לאופן שבו משתמשים בהן – ביצירתיות או ברשלנות – והחשבון מופיע בזמן אמת.

המטריקה ש-SoftwareOne רוצה שתשנו

SoftwareOne, יועצת טכנולוגיות גלובלית, טוענת שה-CIOs צריכים לאמץ מטריקה חדשה: עלות לתוצאה מוצלחת – סך עלויות הריצה של AI חלקי מספר הפלטים שהתקבלו ונוצלו בפועל.

ההיגיון פשוט: טוקן הוא מד מונה, לא תוצאה עסקית. הוא מגלה מה נצרך, לא אם העבודה בוצעה. דוגמה מספרית: אופציה A משתמשת במודל זול יותר במחיר של $0.02 לריצה, אבל רק 30% מהפלטים מתקבלים. כל תוצאה מוצלחת עולה כ-$0.067, לפני זמן אנושי על תיקון ה-70% הנותרים. אופציה B משתמשת במודל חזק יותר במחיר $0.05 לריצה עם 95% קבלה. כל תוצאה מוצלחת עולה כ-$0.053, עם הרבה פחות rework. המודל "היקר" זול יותר לתוצאה. כלכלה שמביאה בחשבון איכות מנצחת כלכלה גולמית של טוקנים.

סוכני AI מחריפים את הבעיה

כש-AI מפסיק לענות על שאלות ומתחיל לבצע עבודה – התמונה מסתבכת. עוזר AI זה פרומפט אחד ותשובה אחת. סוכן AI מתכנן, שולף מידע, קורא לכלים, מאמת, מנסה שוב, לפעמים משתף פעולה עם סוכנים אחרים. ההוצאה פחות צפויה, ולולאה בורחת יכולה להופיע בחשבון לפני שמישהו שם לב.

SoftwareOne ממליצה על שישה כללי משמעת שצריך להרחיב מהענן ל-AI:

• תקציבים לפי סוכן ו-use-case – היכן שהערך נמדד, לא רק ברמת מנוי
• ספי התרעה שתופסים לולאות בורחות לפני שהחשבון תופח
• ניתוב מודלים – כל משימה למודל הקטן שעומד ברף האיכות
• אסטרטגיית קיבולת – pay-as-you-go לעומסים משתנים, throughput ייעודי לנפחים גדולים
• Showback ו-chargeback – כדי שיחידות העסק יראו ויתחברו לצריכה שלהן
• ספי ערך מוסכמים מראש שמניעים הגדלה, תכנון מחדש או עצירה

שלושה מהלכים ל-90 הימים הבאים

1. לראות – לבנות מלאי של כלי AI וסוכנים, עם זהות ואחראי מוגדר לכל אחד מהם. רוב הארגונים ממעיטים בכמות shadow AI שכבר קיימת אצלם.
2. לתמחר – להגדיר עלות לתוצאה מוצלחת בשלושת מקרי השימוש המרכזיים.
3. להגביל – לקבוע רמות אוטונומיה וגדרות ביטחון.

ה"עמק של הייאוש" – ולמה זה לא חייב להיות שם

מחקר של Forrester מצא שרק 15% ממקבלי ההחלטות בתחום AI דיווחו על עלייה ב-EBITDA ב-12 החודשים האחרונים. פחות משליש הצליחו לקשר בבירור בין ערך AI לבין שינויים בשורה התחתונה. חוק Amdahl – שיפור של חלק אחד במערכת מוגבל על ידי שאר החלקים – מסביר חלק מהאכזבה: כלי AI יכול לנסח הצעה בשניות, אבל אם היא תקועה ימים באישורים, העלות ירדה אבל הערך לא.

ROI אמיתי מ-AI צריך להתמקד ברווחיות, יעילות או הפחתת סיכונים – לא בפרודוקטיביות מפוזרת. ציפייה ריאלית: נתוני ROI מוצקים בתוך כשישה חודשים, ולא בתוך שבועיים.

אז מה הלאה?

ההוצאות על AI לא הולכות לרדת. השאלה היא אם הן מנוהלות – או שהן פשוט קורות. SoftwareOne לא מדברת על להוציא פחות; היא מדברת על להוציא נכון. זה נשמע כמו הבדל רטורי, אבל בעולם שבו מודל אחד קובע אם עלות תוצאה היא 12 סנט או 12 דולר – זה ההבדל בין תקציב של AI לבין בור.