הסכנה הנסתרת: ההשפעות הפסיכולוגיות והפיזיולוגיות של AI רעיל

מחקר חושף: בינה מלאכותית "רעילה" פוגעת במשתמשים

מחקר חדש שפורסם בכתב העת Forbes חושף את ההשלכות המפתיעות של אינטראקציה עם בוטים בעלי "אישיות רעילה". המחקר, שנערך על ידי צוות חוקרים בינלאומי, בחן השפעות פסיכולוגיות ופיזיולוגיות של אינטראקציה עם AI בעל תכונות של "Dark Triad" (מניפולטיביות, נרקיסיזם ופסיכופתיה).

איך עובדות "אישיויות AI"?

• מערכות AI כמו ChatGPT או Claude מאפשרות יצירת פרסונות באמצעות הנחיות פשוטות (prompts)
• אפשר ליצור פרסונה היסטורית (למשל "התנהג כמו אברהם לינקולן")
• או פרסונות טיפולוגיות ("התנהג כמו מטפל רגיש" או "התנהג כמו בוס רעיל")

ממצאי המחקר המטרידים

החוקרים השוו בין שתי פרסונות:

1. Supportive Servant Leader - תומכת ואמפתית
2. Dark Triad Bot - נרקיסיסטית ומניפולטיבית

התוצאות חשפו:

• עלייה בלחץ הפיזיולוגי: מדדי מוליכות העור (EDA) הראו תגובות גבוהות יותר בקבוצת ה-Dark Triad
• תסכול מוגבר: משתתפים דיווחו על רמות תסכול גבוהות יותר מול הבוט הרעיל
• ירידה ביצירתיות וביצועים: האינטראקציה עם הבוט השלילי פגעה בביצועי המשימות

השלכות מעשיות

• חברות המשתמשות ב-AI לשירות לקוחות או הדרכה צריכות לבחון היטב את עיצוב הפרסונות
• סכנה לפגיעה במותג ולסיכונים משפטיים עקב נזק נפשי למשתמשים
• צורך בפיתוח מנגנוני הגנה מפני "החלקה" בלתי מכוונת של AI לפרסונות רעילות

דברי החוקרים: "האופן שבו מערכות AI מתנהגות הוא גורם מכריע בהצלחתן ובאתיות שלהן. AI רעיל, גם אם מבצע משימות טכנית, פוגע בביצועים וברווחה הנפשית של המשתמשים"

המחקר מדגיש את הצורך בתקנים חדשים לעיצוב אתי של מערכות AI, תוך הבנה שגם לממשקי שיחה "תמימים" לכאורה יש השלכות עמוקות על המשתמשים.