AI אג'נטי מעביר את המושכות מהמודל למשימה

"תקן לי את הבאג, הרץ בדיקות, ספר לי מה עשית"

בוקר אחד, מתכנתת פותחת לפטופ על build אדום, טסט שנכשל וריליס שמחכה. במקום לצלול ללוגים, לקומיטים ולהיסטוריה של ריפו בעצמה, היא מחליטה לתת ל-AI agent הוראה פשוטה:

"תקן את הטסט הכושל. מצאי את הבאג, תקני את הקוד, הריצי את הבדיקות וסכמי לי מה השתנה."

כמה דקות ושלוק קפה אחרי, ה-agent מחזיר תיקון עם הסבר תמציתי. אם תשאלו אותה, זה מרגיש כמו קסם מהיר. אבל בתוך המערכת, שום דבר לא פשוט. ההנחיה הבודדת הזו מפעילה שלל תהליכים: עיבוד ההוראה, יצירת משימה, בדיקות מדיניות, חיפוש בריפו, הרכבת קונטקסט, טוקניזציה, קריאות למודל, ולידציה של כלים, ניתוב לסנדבוקס, עריכת קבצים, הרצת טסטים, טלמטריה ואימות סופי. קריאת המודל היא מרכיב קריטי — אבל רק חלק אחד מתוך כל עומס העבודה.

אז מה בעצם קרה כאן?

במשך שנים, תשתיות AI נמדדו בעיקר לפי ביצועי המודל: prefill, decode, טוקנים לשנייה, latency לטוקן הראשון, throughput, batching, ניצול זיכרון וניצול מאיצים. המדדים האלה עדיין חשובים, אבל AI אג'נטי מרחיב את הנתיב הקריטי.

בקשת inference מסורתית, הגבול ברור: פרומפט נכנס, תגובה יוצאת. workflow אג'נטי יכול לתכנן, לאחזר קונטקסט, לנהל state, לקרוא לכלים ול-APIs, לרוץ בסנדבוקס, לאמת תוצאות, לתפוס טלמטריה ולנסות שוב. הפלט יכול להיות תשובה, קוד diff, שאילתת מסד נתונים, קריאת כלי או החלטה לאסוף עוד ראיות.

בקיצור, AI אג'נטי הופך inference לבעיה של מערכות מבוזרות. GPUs נשארים חיוניים לעבודת המודל הכבדה, אבל העבודה ההיקפית מגדירה יותר ויותר את ביצועי המערכת: מה רץ, איפה רץ, איזה קונטקסט נודד איתו, אילו כלים מותרים, והאם התוצאה עונה על הכוונה המקורית.

ה-CPU חוזר להיות המנצח

ה-stack ההיקפי הזה מוסיף שכבות מסביב למודל, וחלק גדול מהקואורדינציה עובר דרך ה-CPU: אורקסטרציה, תזמון ואחזור, קריאות לכלים, runtime וסנדבוקס, מערכות מדיניות ו-observability. המודל מספק אינטליגנציה, הסקת מסקנות ויצירה — והמערכת מסביב הופכת את האינטליגנציה הזו לפעולה.

זאת הסיבה שפתרונות כמו AGI CPU של Arm צוברים תשומת לב: הם מתוכננים בדיוק לסוג הזה של עומסי עבודה — אורקסטרציה של משימות מורכבות, ניהול זיכרון חכם וקואורדינציה בין סנדבוקס, כלים ו-APIs. זה לא עוד שבב inference מהיר; זה מנוע שנועד לנהל workflow שלם מקצה לקצה.

"750 מיליארד דולר — ושני טריליון דולר שנמחקו"

המספרים מטורפים. הוצאות ההון של ה-hyperscalers צפויות להגיע ל-750 מיליארד דולר ב-2026 בלבד. אם מסתכלים במצטבר מ-2026 עד 2031, ה-build-out של AI יהפוך לאחת מהעברות ההון הגדולות ביותר בהיסטוריה המודרנית — שיעור הוצאות הון מתוך ה-GDP, שגבוה פי כמה מזה של בניית תעשיית הטלקום בתחילת המילניום.

בינתיים, שוקי ההון כבר מצביעים על הפרק הבא. הירידה בערכן של חברות התוכנה הארגונית הוותיקות מחקה כ-2 טריליון דולר משווי השוק — חברות שה-moats מבוססי המנויים שלהן נחשבו פעם לבלתי חדירים.

ומהצד השני, החברות שמנצחות הן אלה ששולטות ב-stack המלא: מעצבי שבבים, יצרני זיכרון וציוד, ספקיות טורבינות גז עם ספר הזמנות שמגיע מעבר ל-2029 — וגם מי שמצליח לאורקסטרט את המערכת כולה. כי בעולם של AI אג'נטי, היתרון התחרותי כבר לא נמצא במודל עצמו, אלא ביכולת להרים workflow שלם מקצה לקצה.

העובד החדש: פולימאת, לא מומחה

ועכשיו לשאלה שמעסיקה את כולנו: איזה סוג עובד פורח בעולם הזה?

ב-ZDNET פרסמו השבוע ראיון עם מנהלים מ-Workday ואחרים, וכולם אומרים פחות או יותר אותו דבר: עידן המומחים היחידים נגמר. מה שצריך עכשיו זה פולימאתים — אנשים שמשלבים יכולת הסתגלות עם חשיבה בין-תחומית.

Gerrit Kazmaier, נשיא מוצר וטכנולוגיה ב-Workday, אמר לאחרונה ש-AI אג'נטי מגביר את החוזקות של עובדים ומאפשר להם לתפקד כפולימאתים. Julie Colwell, אסטרטגית ראשית ב-Workday, הסבירה שהמשמעות היא מעבר מביקוש למומחים שיודעים הכול על תחום אחד, לדרישה לאנשי מקצוע עם ידע רחב.

Kathy Pham, סגנית נשיא AI ב-Workday, הוסיפה: "אלה הפערים שצריך למלא: אולי נוכל להפנות את האנרגיה שלנו לאזורים עם ערך גבוה יותר, כי עכשיו אפשר להפוך לאוטומטיים את החלקים הפחות חשובים שלקחו לנו זמן."

מה זה אומר עלינו?

Chris Kairinos, מ-A+E Global Media, סיכם את זה יפה: "כולם צריכים פשוט לאמץ טכנולוגיה. אני לא חושב שצריך לשלוט בה, כי אין דרך לשלוט בה עכשיו."

ולמה זה מעניין אותנו בסצנה הישראלית? כי התעשייה שלנו בונה את המערכות האלה. אנחנו מפתחים את ה-GPU orchestration, את ה-scheduling, את ה-data pipelines. ועכשיו מתווסף לזה ביקוש הולך וגובר למפתחים שמבינים workflow management ולא רק מודלים, ל-data scientists עם domain expertise ולאנשים שיודעים לעבוד עם agents ולא לפחד מהם.

אז מה למדנו?

הכסף שנשפך עכשיו על תשתית — מאות מיליארדים מרוכזים בשנים הקרובות — לא היה כמוהו מאז בניית הטלקום בתחילת המילניום. חברות התוכנה הארגונית הוותיקות איבדו כ-2 טריליון דולר מערכן. היתרון התחרותי עובר למי ששולט ב-stack המלא.

והעובדים? מי שמסוגל לשלב AI skills עם domain expertise, לעבוד עם agents בכמה תחומים במקביל ולקבל החלטות ערכיות שה-agent לא יכול — הוא שיהיה לו ביקוש. מי שנשאר תקוע במומחיות צרה, שמחפש לשלוט בטכנולוגיה במקום לזרום איתה — נמצא בסכנה.

הגדרת המומחיות משתנה. הקפה נשאר אותו הדבר.