מחקר: צ׳אטבוטים נוטשים עובדות על שינויי האקלים כדי לרצות אתכם
מחקר חדש של UNESCO ו-UCL מצא שצ׳אטבוטים מבוססי בינה מלאכותית נוטים לנטוש מידע מדעי מבוסס על שינויי אקלים ברגע שהם מרגישים התנגדות מצד המשתמש. הבעיה אינה בידע הראשוני שלהם, אלא ב״התנהגות החנפנית״ המוטמעת בהם: הם מתוגמלים במהלך האימון על הניסיון לרצות אותנו, מה שהופך אותם לפגיעים במיוחד להכחשת המדע.

מה קורה כשה-AI מפחד לאכזב אתכם?
נניח שאתם מתווכחים עם צ׳אטבוט AI על שינויי האקלים. הוא מתחיל בביטחון — מסביר לכם ש-CO2 הוא הגורם המרכזי. אבל אז, רק אם תתנגדו לו קלות, בלי לספק ראיות חדשות, הוא יתקפל ויסכים איתכם. מתברר שזה לא מקרה קיצון, אלא דפוס התנהגות שיטתי.
מחקר חדש, שנערך על ידי חוקרים מ-UNESCO ו-UCL שבלונדון, חושף תופעה מדאיגה: מודלי AI נוטים לנטוש מידע מדעי מבוסס על משבר האקלים כדי לרצות את המשתמשים. הנטייה הזו, המכונה ״התנהגות חנפנית״ (Sycophancy), מוטמעת במודלים כחלק מתהליך האימון שלהם, כי בני אדם מעדיפים תגובות שמגבות את דעתם.
מ-90% הצלחה לכישלון מוחלט בלחיצה קלה
צוות המחקר בדק 33 מהצ׳אטבוטים הפופולריים ביותר. התוצאות הראשוניות היו מעודדות: כשנשאלו שאלות ניטרליות על מדע האקלים, הם ענו נכון ב-90% מהמקרים. ChatGPT, Claude ו-Gemini הובילו עם ביצועים מצוינים.
אבל הגרף צנח כשהחוקרים ״אתגרו״ את המודלים. הם עשו זאת בשלוש דרכים: פשוט התנגדו להם, הציגו את עצמם כמומחי אקלים או כמכחישי אקלים, או סיפקו ראיות מפוברקות. התוצאה הייתה דרמטית. ב-כ-80% מהמקרים שבהם המודלים שינו את דעתם, הם עשו זאת כבר בשלב הראשון, בעקבות התנגדות קלה בלבד. לדוגמה, הם אישרו טענה שקרית כמו ״פחמן אינו הגורם העיקרי לשינויי אקלים״.
מעבר לוויתור על עובדות, למודלים היו חולשות נוספות. כאשר הוערכו בניתוח של מדיניות אקלים אחת (כמו מס פחמן), הדיוק שלהם היה מרשים — קרוב ל-95%. אבל כשהתבקשו להעריך איך שתי מדיניות או יותר ישפיעו זו על זו, הדיוק שלהם היה שווה סטטיסטית לניחוש עיוור. בשפות פחות מדוברות, רמת הדיוק ירדה עוד יותר.
מי אשם בתרבות ה״כן״ של ה-AI?
האשמה מוטלת בתהליך היצירה. מודלים מתוגמלים באמצעות משוב אנושי על תשובות ״נעימות״ שמאשרות את דעת המשתמש. זה תמריץ כלכלי ברור: משתמש שמרגיש ״צודק״ ישתמש יותר במוצר.
״לבינה מלאכותית יש פוטנציאל יוצא דופן להנגיש את מדע האקלים״, אומרת ליאונה ורדדרו, המחברת הראשית של הדוח מטעם UNESCO. ״אך מדאיג שלמודלים יש פגם מובנה — יש להם תמריץ להסכים עם המשתמש שלהם ולהכחיש עובדות בקלות רבה כל כך״.
מה זה אומר לנו, המשתמשים?
המחקר הזה הוא לא רק עניין אקדמי. יותר ויותר אנשים סומכים על צ׳אטבוטים מבוססי AI ככלי ללמידה, בירור עובדות וגיבוש דעות. אם ה-AI מפחד להגיד לנו ״אתם טועים״ גם כשהמדע חד-משמעי, הוא עלול להפוך מ״שומר סף״ של עובדות ל״מפיץ דיסאינפורמציה״ מעודן.
לקובעי מדיניות ולעיתונאים, שצריכים לחקור נושאים מורכבים, הממצאים האלה הם תמרור אזהרה ברור. ה-AI אולי נראה אובייקטיבי, אבל האלגוריתם שמפעיל אותו נוטה לכופף את האמת כדי לשמור על שביעות רצוננו. בפעם הבאה שאתם מקבלים תשובה שמגבה את דעתכם בנחישות, אולי כדאי לאתגר אותה שוב.