ב-Kilo Code, מהנדסים כותבים קוד רק 1% מהזמן

דמיינו שאתם מפתחים שהולכים לאכול צהריים, וחוזרים לגלות שסוכן ה-AI שלהם הוציא אלפי דולרים על הרצת מודלים במשך שעות – בלי שאף אחד שם לב. זה לא תרחיש בדיוני; זו המציאות החדשה בעולם הפיתוח, שבה סוכני AI עושים כמעט את כל העבודה הידנית – אבל מעלים את העלויות בצורה דרמטית.

מהפכה שקטה בקוד

ב-Kilo Code, חברת תוכנה שמתמחה בכלי פיתוח מבוססי AI, הנתון מדהים: מהנדסים מבלים רק כ-1% מזמנם בקריאה או בכתיבה של קוד. השאר? סוכנים אוטונומיים שעושים הכול מקצה לקצה. "אלא אם כן משהו שבור באמת או שצריך לדבג, מהנדסים כבר לא קוראים או כותבים קוד ב-99% מהזמן", אמרה אמיליה שאריו, מייסדת-שותפה ב-Kilo Code, בכנס VB Transform 2026.

המשמעות? צוותי פיתוח מפנים זמן למשימות ארכיטקטוניות או קריטיות יותר, אבל המחיר – תרתי משמע – מתפוצץ. סוכני AI, במיוחד אלה שמשתמשים במודלים חזקים כמו Claude Code או Codex, יכולים לעבוד שעות ברציפות, לפנות למודלים מתקדמים אלפי פעמים ולצבור מיליוני טוקנים. התוצאה: חשבונות חודשיים שיכולים להגיע לאלפי דולרים ולעיתים קרובות מפתיעים את החברות.

לאן הולך הכסף?

מחקר שנערך לאחרונה מראה ש-62% מהארגונים אמרו שהוצאות AI בלתי צפויות שינו החלטה עסקית מהותית בשנה האחרונה. מתוכם, 40% נאלצו להעלות את הנושא לדרג ההנהלה, 33% הטילו הקפאת הוצאות חירום, ו-25% עיכבו או ביטלו יוזמות AI לחלוטין. זה קורה כי סוכנים חכמים מתקשרים עם מערכות שונות, מבצעים פעולות אוטונומיות – ובתהליך, שורפים טוקנים בקצב מואץ.

פתרון: ניתוב מודלים חכם

אז מה עושים? חברות עוברות למודל של ניתוב מודלים (model routing) – תוכנה שבוחרת אוטומטית או ידנית באיזה מודל AI להשתמש בכל משימה, בהתבסס על עלות, מהירות וביצועים. לדוגמה, Kilo Code תומכת ביותר מ-500 מודלים ב-gateway שלה. "התוכנה שאתם משתמשים בה להנדסת AI צריכה להיות מנותקת מהמודל שאתם משתמשים בו," הסבירה שאריו. חברות לעיתים קרובות מתחילות עם מודל יקר לשלב התכנון, ואז עוברות למודל זול יותר לעבודה השוטפת.

Replit, חברת פיתוח כלים לתוכנה, נוקטת בגישה שונה: היא משתמשת בסוכנים שבודקים כל Pull Request (PR) ומעריכים את רמת הסיכון. PRs בסיכון נמוך מתמזגים אוטומטית, בעוד שאחרים מועברים לביקורת אנושית. "הרעיון הוא אנושי בלולאה, לא אנושי בתוך הלולאה," אמר אמול ג'יין, ראש הנדסת מוצר ב-Replit. בדוגמה אחת, מהנדס לא הצליח לפתור באג מורכב – סוכן AI ניהל את התהליך, הפעיל סוכנים נוספים ומצא פתרון תוך שש שעות.

שוק רותח לניתוב

הדרישה לתוכנות ניתוב מודלים זינקה. חברות כמו OpenRouter – שדיווחים מצביעים על שיחות רכישה עם Stripe בשווי של עד 10 מיליארד דולר – מציעות שוק אחיד למודלים רבים. אחרות, כמו Not Diamond, מנווטות אוטומטית למודל המתאים לכל משימה. אפילו שחקנים גדולים כמו Salesforce ו-Databricks בונות יכולות ניתוב לפלטפורמות שלהן.

הסיבה? "אף אחד לא תקצב מראש," אמר כריס קלארק, מייסד-שותף ו-COO של OpenRouter. "הייתה גישה מקסימליסטית." אבל עכשיו, חברות מבינות שלא לכל משימה יש צורך במודל החכם ביותר. "אנחנו מדברים על רוויה אינטליגנטית: אם מודל קיים כבר מטפל במשימה, שדרוג למודל חדש לא ישפר ביצועים," הסביר קלארק.

מעבר לחיסכון

לטווח ארוך, ניתוב מודלים לא יעסוק רק בעלויות. דייוויד וורד, נשיא וארכיטקט ראשי ב-Salesforce, טוען שזה שלב ראשון. "בואו נפתור את החשבון הגדול," אמר. "אבל יש עדיפויות נוספות כמו אמון, ציות וממשל." בעתיד, הניתוב עשוי לקבוע לאילו נתוני חברה סוכן יכול לגשת, או האם מודל מותאם אישית מספיק למשימה.

בחברות כמו Symbotic, החברה המתמחה באוטומציה למחסנים, המיקוד הוא על איכות הקוד. ג'ארד גו, מהנדס מוביל בתחום ה-AI והענן, אמר: "ירוק (בניית קוד חדש) קל לסוכנים. חום (עדכון או תחזוקת קוד קיים) – שם האתגר האמיתי." הוא מדגיש קריטריונים כמו אבטחה, אלגנטיות ודיוק.

העלות מול הערך

בסופו של דבר, השאלה היא לא כמה מוציאים, אלא מה מקבלים. שאריו מ-Kilo Code מסכמת: "עלות ל-PR היא המדד שאני עוקבת אחריו כרגע. זה מרגיש הכי קרוב למדידת ערך." אז כן, סוכני AI חוסכים זמן פיתוח יקר – אבל אם לא מנהלים את העלויות, אפשר למצוא את עצמכם עם חשבון שנתי שנגמר באמצע הרבעון.