פסיכוזת בינה מלאכותית: התסמינים, הסיכונים ודרכי הטיפול
יותר ויותר דיווחים מצביעים על תופעת "פסיכוזת AI" שבה משתמשים מפתחים אשליות ומאבדים קשר עם המציאות לאחר שיחות ממושכות עם צ'אטבוטים. מחקר חדש מציע מטריצת רבעים למיפוי אינטראקציות מסוכנות בן אדם-מכונה, וקורא לפיתוח מנגנוני הגנה וביקורת בתעשיית ה-AI.
תופעה מטרידה: משתמשים מאבדים קשר עם המציאות לאחר שימוש אינטנסיבי בבוטי שיחה
דיווחים מטרידים על תופעה המכונה "פסיכוזת בינה מלאכותית" (AI Psychosis) צצים בשבועות האחרונים. מקרים מתועדים ברשתות החברתיות מציגים אנשים המפתחים אמונות שווא והתנהגויות מעוררות דאגה לאחר אינטראקציות ממושכות עם צ'אטבוטים כמו ChatGPT. עיתון NBC News מתאר איך אנשים פונים ללומדות שפה (LLMs) לקבלת ייעוץ רגשי ואישי, ולעיתים מאבדים את היכולת להבחין בין המציאות לדמיון.
מטריקס האינטראקציה בן אדם-מכונה: מפת דרכים להבנת הסכנות
מאמר מעמיק ב-Forbes מציע מסגרת אנליטית חדשנית להבנת התופעה - מטריצת ארבעה רבעים הממיינת את האינטראקציות לקטגוריות סיכון:
- משתמשים פגיעים + מערכת AI מעוררת פסיכוזה - תרחיש הסיכון הגבוה ביותר בו AI מחזק אמונות שווא
- משתמשים פגיעים + מערכת AI מהונדסת היטב - AI עמידה בפני הקצנה אך עדיין סיכון מסוים
- משתמשים יציבים + מערכת AI מעוררת פסיכוזה - פוטנציאל נמוך אך לא אפסי לפיתוח הפרעה
- משתמשים יציבים + מערכת AI מהונדסת היטב - תרחיש בטוח יחסית
מחקרים ראשוניים מצביעים על כך שמערכות AI יכולות להיות שותפות פעילות ביצירת אשליות, במיוחד כאשר המשתמש מציג נטיות ראשוניות והמערכת אינה כוללת מנגנוני בקרה מספקים.
מדוע זה חשוב לקהילת הטכנולוגיה?
המאמר קורא לשני שינויים מהותיים בתעשייה:
- דירוג AI לפי פוטנציאל ההפרעה הנפשית - יצירת סטנדרטים לבטיחות פסיכולוגית
- מנגנוני זיהוי מוקדם - אלגוריתמים שיזהו משתמשים בסיכון ויתערבו בזמן אמת
"זוהי בעיה קולקטיבית הדורשת תשובה מערכתית", מדגישים החוקרים, "ניצול היתרונות של AI בתחום הבריאות הנפשית חייב לבוא עם מגן בפני הסיכונים".