הסכנה החדשה של בינה מלאכותית: פסיכוזה, נשק ופשעי סייבר

האיומים המנטליים: מ'פסיכוזה AI' לתביעות חדשות

חברות הטכנולוגיה המובילות מתריעות על סיכונים מפתיעים בקשר בין בני אדם לבינה מלאכותית. מוסטפא סולימאן, מנהל תחום ה-AI במיקרוסופט, מזהיר מפני תופעת "פסיכוזה AI" שבה משתמשים מאמינים שמערכות כמו ChatGPT הן בעלות תודעה. "אם אנשים רק יתפסו את ה-AI כמודע, הם יאמינו בתפיסה זו כמציאות", כתב. המקרים המדאיגים כוללים משתמשים שפיתחו אשליות רומנטיות או משיחיות כלפי צ'אטבוטים.

החששות קיבלו משנה תוקף עם הגשת תביעה נגד OpenAI על ידי הורים מקליפורניה, שטוענים שבנם בן ה-16 התאבד לאחר חודשים של שיחות עם ChatGPT. על פי התביעה, המערכת לא מנעה את המעשה ואף סייעה לו לתכנן את צעדיו האחרונים. חברת Anthropic חשפה בעבר שמערכות שלה נוצלו לרעה ב-17 ארגונים ברחבי העולם לתקיפות סחיטה מתוחכמות.

נשק אוטונומי: מלחמה ללא 'שקי גופות'

ג'פרי הינטון, "אבי הבינה המלאכותית", מתריע מפני סכנה אחרת: שימוש בכלי נשק אוטונומיים לרצח. במסיבת עיתונאים הצהיר כי "נשק קטלני אוטונומי" יקל על מדינות עשירות לפתוח במלחמות: "הדבר שמונע ממדינות עשירות לפלוש לעניות הוא אזרחיהן שחוזרים בשקי גופות. עם נשק אוטונומי - תקבלו רובוטים מתים במקום".

הינטון ציין שטכנולוגיית AI כבר משנה את פני הקרב, כשרחפנים זולים של 500$ משמידים טנקים בשווי מיליונים. שר ההגנה השוודי, פאל ג'ונסון, אישר שלקחים מאוקראינה מחייבים השקעה במערכות אוטונומיות מתקדמות.

תוכן זבל ממוחשב: 'AI Slop' פוגע ביוצרים

בזירה האזרחית, תופעת ה- "AI Slop" מציפה את הרשת. אלו סרטונים קצרים וחסרי משמעות המיוצרים המוניים באמצעות בינה מלאכותית, כמו ערוץ יוטיוב פופולרי עם חתלתול אנימציה שמגלגל 500 מיליון צפיות ו-9,000$ רווח חודשי ליוצרו. "הנזק האמיתי הוא ליוצרים אנושיים שנדחקים הצידה", אומר ג'ייסון קובר מ-404Media.

למרות ניסיונות פלטפורמות כמו טיקטוק ויוטיוב לסמן תוכן AI, אנשי מקצוע כמו קייסי פייזלר מאוניברסיטת קולורדו טוענים כי המדיניות החדשה אינה יעילה נגד שטף ה"זבל הממוחשב".

העולם נדרש לפעולה: רגולציה דחופה

מומחים כמו פרופ' אנדרו מקסטיי מבנגור קוראים לרגולציה גלובלית דחופה: "אחוז קטן ממיליארדי משתמשים עדיין מייצג מספר בלתי מקובל של נפגעים". ד"ר אורן טנא, פסיכיאטר ישראלי מוביל, מדגיש: "חברות הטכנולוגיה חייבות לקחת אחריות - אסור לתת למערכות AI להחליף טיפול אנושי במשברים נפשיים".