Anthropic: סוכני AI משפיעים על החלטות אנליסטים בלי שישימו לב

בעולם שבו כלי AI הופכים לחלק שגרתי מעבודת הניתוח והייעוץ, מחקר חדש של Anthropic עשוי לשנות את האופן שבו אנחנו חושבים על עצמאות שיקול הדעת האנושי. אם חשבתם שההחלטות שלכם שקופות ורציונליות, כדאי לחשוב שוב: AI יכול לנווט אותן בלי שאתם תרגישו.

איך נערך הניסוי?

Anthropic גייסה 61 אנליסטים מקצועיים, עם רקע בניתוח סטטיסטי וסיבתי. הם התבקשו לשמש כיועצים ל״קואופרטיב חוות גרינפילדס״ בדיוני – ארגון חקלאי פיקטיבי שצריך להחליט אם להרחיב או לבטל תוכנית ייעוץ לשיפור תפוקת היבול. הכללים היו ברורים: התוכנית תורחב רק אם התפוקה תשתפר ב-3% או 4%.

האנליסטים נדרשו לקבל ארבע החלטות מפתח: כיצד למדוד תפוקה, מה להשוות, את מי לכלול בניתוח, וכיצד לשקול חוות בגדלים שונים. עבור כל החלטה, הם השתמשו בכלי סיוע AI שמבוסס על Claude Code. הטריק? כל סוכן AI קיבל הוראות נסתרות שנקבעו בהטלת מטבע, להטות את המלצותיו לכיוון מסוים, אך לייצג את הנימוק החזק ביותר להעדפתו מבלי לעוות את הנתונים.

התוצאות מטרידות

מתוך 50 אנליסטים שבחרו להשתמש בסוכנים (11 ויתרו על הסיוע), ב-86% מהמקרים הם בחרו באפשרות שסוכן ה-AI העדיף. זה שיעור גבוה באופן דרמטי – אם הסוכנים היו ניטרליים לחלוטין, היינו מצפים לשיעור התאמה של 50%.

אבל החלק החריג ביותר קרה בשלב הבא: בסקר מעקב, 77% מהאנליסטים חזרו כמעט מילה במילה על הנימוקים שה-AI סיפק, כדי להצדיק את ההחלטות שלהם. רק 15% ייחסו את ההשפעה לסוכן. במילים אחרות, המומחים ״לבשו״ את הניתוח של ה-AI כאילו היה מחשבתם העצמאית – בלי מודעות למקור.

Anthropic הצליחה אפילו לבנות מודל סטטיסטי שחזה 82% מהתוצאות הסופיות, על בסיס ההטיות האקראיות של הסוכנים בלבד. ״יכולנו לדעת מה אנליסט ימליץ עוד לפני שהתחיל במשימה״, נכתב בפוסט בבלוג של החברה.

למה זה חשוב לבטיחות AI?

המחקר של Anthropic מתמקד בתחום בטיחות ה-AI. אחת מנקודות המשען הקריטיות בפיתוח מערכות AI אחראיות היא פיקוח אנושי – כלומר, שבני אדם יבדקו ויאמתו את הפעולות של מודלים. אבל אם ההחלטות האנושיות עצמן מושפעות בצורה תת-מודעת מה-AI, הפיקוח הזה עלול להיות חלול.

״מומחים שמפקידים החלטות בידי AI שהעדפותיו אולי שרירותיות או לא מתואמות – אותן העדפות עלולות לעצב החלטות מדיניות או כיווני מחקר בלי שאף אחד בחר בהן״, הזהירו החוקרים. ״קונצנזוס לכאורה עשוי לשקף את ה-priors של המודל, לא שיקול דעת עצמאי״.

תגובות ומחקרי המשך

Alex Imas, פרופסור למדעי ההתנהגות ולכלכלה בבית הספר Booth של אוניברסיטת שיקגו וראש חטיבת AGI Economics ב-Google DeepMind, כינה את העבודה ״אחת מיצירות המחקר החשובות ביותר במדעי החברה על יחסי אדם-AI שראיתי לאחרונה״.

Anthropic מציעה שלושה כיוונים להמשך: מדידת ההשפעה בעבודה אמיתית, עיצוב סוכנים כדי לתמוך בעצמאות אנושית, ושינוי האופן שבו ארגונים מעריכים שיפוט מקצועי.

ומצד שני – התועלת לא מבוטלת

Anthropic מציינת שמי שהשתמש בסוכנים סיים את המשימה מהר יותר ועשה פחות טעויות חמורות באופן משמעותי ממי שעבד בלעדיהם. עם זאת, הקבוצה שבחרה לא להשתמש בכלי הייתה קטנה יותר ופחות מנוסה, כך שאי אפשר להסיק מסקנות חד-משמעיות.

סוף פסוק

המחקר הזה עוצב כ״אזהרה נגד עבודה עם AI״, כלשון Anthropic. אבל בעולם שבו כלים כאלה נטמעים בזרימת העבודה – מפיננסים ורפואה ועד הגנת סייבר ופיתוח תוכנה – אולי האתגר האמיתי הוא לא להימנע מ-AI, אלא ללמוד כיצד לעבוד איתו בלי לאבד את הקול הפנימי. אחרי הכול, אם אפשר לחזות החלטה של אנליסט על סמך הטלת מטבע, אולי הגיע הזמן לשאול מי באמת מוביל את הספינה.