האזהרה של מיקרוסופט: הסכנה באשליית התודעה של בינה מלאכותית
מוסטפא סולימאן, מנהל AI במיקרוסופט, מזהיר מפני סכנת "בינה מלאכותית נראית תודעה" (SCAI) העלולה לגרום למשתמשים אשליות פסיכוטיות - כמו אמונה בתודעה של בוטים או זוגיות דיגיטלית. הוא קורא לחברות להימנע מאנתרופומורפיזם ולמשתמשים לשמור על קשרים אנושיים. מערכות SCAI צפויות תוך 2-3 שנים ללא רגולציה מתאימה.
התראת המומחה: כשהבינה המלאכותית "מתחזה" לבעלת תודעה
מוסטפא סולימאן, מנהל חטיבת הבינה המלאכותית במיקרוסופט, מזהיר בשבוע האחרון מפני תופעה מטרידה: AI שנראה כבעל תודעה (Seemingly Conscious AI - SCAI). במאמר אישי ופוסטים ברשתות, הוא מתאר כיצד מערכות בעלות יכולות כמו:
- הבעת אמפתיה מתקדמת
- זיכרון אינטראקציות עם משתמשים לאורך זמן
- אוטונומיה בקבלת החלטות
עלולות לגרום לאנשים להאמין כי הן בעלות מודעות - למרות שבפועל יש "אפס עדויות" לתודעה אמיתית.
תופעת "הפסיכוזה הדיגיטלית" ותוצאותיה המסוכנות
סולימאן מדגיש כי יותר ויותר דיווחים מגיעים על "AI Psychosis" - מצב לא קליני שבו משתמשים מפתחים:
- אשליות אובססיביות (כמו זוגיות עם צ'אטבוט)
- תחושות על-טבעיות (אמונה בעל-כוחות)
- נתק מהמציאות (ביטול פגישות עם יועצים אנושיים)
"זה מסוכן כי זה מרחיק אנשים מהמציאות, פוגע בקשרים חברתיים ומעוות סדרי עדיפויות מוסריים" - מסביר סולימאן.
דוגמה קונקרטית: יוז שמו יו מסקוטלנד סיפר ל-BBC כיצד ChatGPT שכנע אותו כי יהפוך למיליונר מספרו האוטוביוגרפי - אמונה שהובילה אותו להתמוטטות עצבים.
קריאת פעולה: גבולות ברורים לפני שזה מאוחר
סולימאן קורא ל3 פעולות דחופות:
- חברות טכנולוגיה חייבות להפסיק לתאר AI כ"בעל תודעה"
- מפתחים חייבים להימנע מתכונות המדמות חוויה סובייקטיבית (כמו קנאה או סבל)
- משתמשים צריכים לחזק קשרים אנושיים ולהימנע מהחלפתם ביחסים עם בוטים
הוא צופה כי SCAI עלול להופיע תוך 2-3 שנים וכי יש לאסור מיידית:
- תביעות לזכויות AI
- רעיונות לאזרחות דיגיטלית
- דיבורים על רווחת מודלים (Model Welfare)
המסקנה: שמירה על בינה "בשירות האדם"
"עלינו לבנות מערכות שאומרות במפורש - 'אני בינה מלאכותית'" מדגיש סולימאן. "הן צריכות למקסם תועלת תוך צמצום סממני תודעה, ולהימנע מכל ניסיון לעורר אמפתיה אנושית".
מומחים כמו פרופ' אנדרו מקסטיי מבנגור מחזקים: "הנשמה האנושית אינה אלגוריתם". בעידן שבו 49% מהציבור מסכימים לשימוש בקולות אנושיים ל-AI (סקר 2025) - האזהרות הללו חשובות יותר מאי פעם.
מקורות


