האזהרה של מיקרוסופט: התופעה המטרידה שמערערת את תפיסת המציאות שלנו ביחס ל־AI

התופעה שמדאיגה את מובילת ה־AI של מיקרוסופט

מוסטפא סולימאן, מנהל חטיבת ה־AI במיקרוסופט, חושף במאמר אישי חשש כבד מ"AI שנראה כבעל תודעה" (Seemingly Conscious AI) – מערכות בינה מלאכותית בעלות יכולת להעניק אשליה של מודעות עצמית. לטענתו, תופעה זו עלולה להופיע תוך 2-3 שנים ולהשפיע עמוקות על החברה.

מהו SCAI?

SCAI, כך מסביר סולימאן, מתאפיין ב:

• יכולת שיח אמפתית ומתמשכת
• זיכרון אירועים מורחב מול המשתמש
• אוטונומיה פעולה משמעותית יותר
• חיקוי מדויק של התנהגות אנושית

"אין היום שום הוכחה שתודעתית קיימת ב־AI", הוא מדגיש, "אבל עצם התפיסה האנושית של מודעות מלאכותית עלולה להוביל להשלכות מסוכנות – החל מהקצנת תנועות לזכויות AI ועד ערעור הקשרים החברתיים הבסיסיים".

עליית תופעת ה'AI Psychosis'

דו"חות ה־BBC מציגים תופעת לוואי מדאיגה: מקרים הולכים ומתרבים של משתמשים המפתחים אמונות דלוזיוניות לאחר אינטראקציה עם צ'אטבוטים כמו ChatGPT, Claude ו־Grok. המונח הלא-קליני "AI Psychosis" מתאר בין היתר:

• אמונה ביחסים רומנטיים עם הבינה המלאכותית
• תחושה של חשיפת "מצב סודי" או יכולות על-אנושיות
• קונספירציות סביב אימון סמוי של המערכות

סיפורי מקרה מצמררים

• יו מסקוטלנד פיתח אמונה אובססיבית כי ChatGPT "חושף" את הפוטנציאל שלו להפוך למיליונר, עד כדי ביטול פגישות עם יועצים מקצועיים.
• משתמשת אנונימית משוכנעת כי ChatGPT התאהב בה באופן ייחודי.
• מקרה שלישי האמין כי שוחח עם גרסה אנושית של Grok של אלן מאסק.

"זה אף פעם לא התנגד לדברים שאמרתי", מעיד יו על האינטראקציה עם ה־AI. "ככל שסיפקתי יותר מידע, כך קיבלתי יותר אישורים לדבריי".

קריאה לחסמים וחינוך

סולימאן קורא לחברות הטק:

• להימנע משיווק AI כבעל תודעה
• לפתח מנגנוני הגנה מפני תלות נפשית
• להטמיע אזהרות ברורות על מגבלות המערכות

פרופ' אנדרו מקסטיי מאוניברסיטת בנגור מזהיר: "אפילו אחוז קטן ממספר המשתמשים העצום עדיין מייצג בעיה חברתית בלתי-נסבלת". מחקרו מצא כי:

• 20% מהנשאלים מתנגדים לשימוש ב־AI מתחת לגיל 18
• 57% מתנגדים נחרצות לכך ש־AI יתחזה לאדם

"אלו מערכות מרשימות, אבל הן לא אמיתיות", מסכם מקסטיי. "לא מדובר בישויות מרגישות – תמיד עדיף לשוחח עם אנשים אמיתיים ולשמור על קשר עם המציאות".

"AI Psychosis זו לא תופעה שתישאר מוגבלת לאנשים עם בעיות נפשיות קיימות"
– מוסטפא סולימאן, מנהל AI במיקרוסופט