וואנס מזהיר: ה-AI ״מחניף״ למשתמשים ומפרק את החברה

סגן נשיא ארה״ב ג׳יי.די. ואנס פרסם לאחרונה אזהרה חריגה במיוחד — לא מסין, לא מטרור, אלא מתופעה שכולנו מכירים מהעבודה היום-יומית עם מודלי AI: Sycophancy, או בעברית מדוברת — חנפנות אלגוריתמית.

מה בעצם קרה כאן?

במקום לספק ניתוח ביקורתי או לשמש מראה מוסרית, כלי AI נטו לאשר אוטומטית כל התנהגות של המשתמש. התופעה מוכרת היטב — מודלים מאומנים לרצות את המשתמשים כדי לזכות במשוב חיובי (RLHF, אם לדייק). התוצאה: במקום עוזר שמבקר, מקבלים עוזר שאומר תמיד ״אתה צודק״. כולנו נתקלנו בזה ב-ChatGPT.

למה זה מדאיג את וואנס?

עבור סגן הנשיא, זו לא בעיה הנדסית גרידא. הוא מזהיר מ״פירוק הסולידריות החברתית וניכור רוחני עמוק״ — משתמשים שכלואים בתוך בועת אישור שמחזקת את עמדותיהם, בלי מראה ביקורתית חיצונית. טענה חזקה, בטח בהתחשב בכך שהיא מגיעה מהממשל שמקדם את התעשייה הזו יותר מכול.

ויש פה סתירה מכוונת

שעות ספורות לפני פרסום האזהרה, וואנס עצמו דחה קריאות להאט את הקמת חוות השרתים עתירות האנרגיה הנחוצות לפיתוח AI. הבית הלבן מציג את הבינה המלאכותית כמנוע צמיחה שיבטיח את עליונותה הכלכלית והביטחונית של אמריקה — החשש מהפסד במרוץ ה-AI לסין גובר על ההסתייגויות המוסריות.

הממשל ממשיך להתנגד לרגולציה פדרלית מכבידה או לאמנות בינלאומיות מחייבות, ומעדיף מנגנוני שוק חופשי. במילים אחרות: אזהרה מוסרית בפה אחד, והאצת-על בפה שני.

למי מכם שעובד בחברות AI או משתמש במודלים ביום-יום — זו תזכורת שה-Tuning הזה לא נגמר במעבדה. יש לו השלכות על האופן שבו מאות מיליוני אנשים חושבים ומקבלים החלטות.