7% מעובדי הידע נתקלו בסוכני AI שיצאו משליטה
עובדים ברחבי העולם מאמצים ומפתחים סוכני AI באופן עצמאי, מה שמעורר אתגרים חדשים של שליטה ופרודוקטיביות. לפי סקר, רבע מהמשתמשים נאלצו לבטל את הסוכנים שלהם בגלל חוסר עקביות, ו-7% התמודדו עם סוכנים שיצאו משליטה. מנהלים מדגישים שההקשר (context) הוא המפתח להצלחה.
עובדים ברחבי העולם בונים בעצמם סוכני AI כדי לשפר את העבודה שלהם, בלי לחכות לאישור מההנהלה – וחלק מהיצירות האלה עלולות לגרום לנזק משמעותי אם מנהלי ה-IT לא יתפסו את המגמה בזמן. זה לא תרחיש דמיוני; זה מה שסקרים אחרונים ודיונים של מובילי טכנולוגיה מראים לנו.
הנתונים שמבהילים
לפי סקר של חברת ההנדסה Howdy.com, שני שלישים מעובדי הידע שמשתמשים ב-AI גם משתמשים בסוכנים, ו-16% התחילו לבנות סוכנים משלהם. אבל רבע מהמשתמשים בסוכנים נאלצו לבטל אותם – בעיקר בגלל שהפלטים של הסוכנים היו לא עקביים או שהם פשוט לא עבדו. גרוע מכך, 7% מעובדי הידע התמודדו עם סוכנים ש"יצאו משליטה" ופעלו בצורה לא צפויה.
למה זה קורה?
הדחף להשתמש ב-AI חזק. עובדים רוצים לייעל משימות, ולכן הם לוקחים את העניינים לידיים. אבל בלי פיקוח, סוכנים יכולים לגרום לטעויות, לאסוף מידע שגוי או לבצע פעולות לא רצויות.
ההקשר הוא הכול
במפגש של מנהלי טכנולוגיה בסן פרנסיסקו, הנושא המרכזי היה "הקשר" (context). XD Huang, ה-CTO של Zoom, צחק על מאמר המחקר המפורסם "Attention is All You Need" ואמר: "Context is all you need" – כלומר, סוכני AI לא יהיו מועילים באמת עד שיבינו יותר על החברה, העמיתים שלך, הפגישות והעבודה שלך.
T.R. "Vish" Vishwanath, CTO של Glean, הסכים: סוכנים נכשלים כי הם מחוברים למעט מדי מידע – או גרוע מזה, למידע שגוי. הם מייצרים תשובות שנשמעות אמינות אבל שגויות. מתן הקשר נכון למערכות AI בעבודה יכול להיות חשוב יותר מלבנות מודלים חכמים יותר.
לנהל את הסוכנים כמו עובדים חדשים
אחת הדוגמאות המעניינות היא סוכן פנימי בשם WorkRadar. הוא נועד למשימות כמו סיכום של מה שקרה בזמן חופשה, אבל בהתחלה הוא לא הצליח להבחין בין סדרי עדיפויות אסטרטגיים למשימות טקטיות. הפתרון? "לקלוט" את הסוכן כמו עובד חדש: לאפשר למשתמשים לספק לו תיאור אישי עם פרטים כמו תחומי אחריות, סדרי עדיפויות נוכחיים וסגנון תקשורת. זה שיפר משמעותית את הביצועים.
שינויים בעולם העבודה
מנהלים בכירים דנו איך סוכני AI משנים גיוס ואסטרטגיה. ג'וש קלם, סגן נשיא להנדסה ב-Figma, הזהיר שמהנדסים בתחילת דרכם ובאמצע הקריירה שלהם עלולים להתמודד עם הכי הרבה לחץ כאשר ארגונים מעדיפים גיוס של עובדים ותיקים לצד בוגרים צעירים ששולטים ב-AI.
נוסף על כך, AI עלול לפגוע בתוכנות מסורתיות. אחד ממנהלי הטכנולוגיה הדגים איך Claude Code יצר מצגת בקובץ HTML פשוט, שעובדת בכל מכשיר – בלי PowerPoint או Google Slides. זה מראה איך AI הופך חלק מהתוכנה למיותרת.
העתיד
תחזיות מהמפגש כוללות ביטול של פגישות סטטוס כי סוכנים כבר ידעו הכול, ואפילו מנהלים בכירים שישאלו אם AI יכול לעשות את העבודה שלהם.
בסופו של דבר, המגמה ברורה: סוכני AI כאן, וארגונים צריכים ללמוד לנהל אותם – או להתמודד עם ההשלכות.