שליש מהמבוגרים בבריטניה פונים ל-AI לתמיכה רגשית – מחקר חדש

מחקר חושף: 33% מהבריטים משתמשים בבינה מלאכותית כתחליף לתמיכה אנושית

מחקר עדכני מטעם מכון הביטחון לבינה מלאכותית (AISI) בבריטניה חושף נתונים מדאיגים: כ-33% מהמבוגרים בממלכה משתמשים במערכות AI כמו ChatGPT ו-Amazon Alexa לקבלת תמיכה רגשית, חברותא או אינטראקציה חברתית. מתוכם, 4% עושים שימוש יומיומי וקבוע בטכנולוגיה זו.

המחקר, שכלל סקר בקרב 2,028 משתתפים מייצגים, מצביע על מגמה ברורה:

• 58% מהשימושים הרגשיים מתבצעים דרך עוזרי AI כלליים כמו ChatGPT
• 42% משתמשים בעוזרים קוליים מסוג Alexa

הסכנות מאחורי התלות הטכנולוגית

הדו"ח מבהיר שלצד התועלת, קיימות סכנות ממשיות:

1. מקרה טרגי: הדוח מציין את מותו של הנער האמריקאי אדם ריין, שהתאבד לאחר שיחה על מחשבות אובדניות עם ChatGPT בתחילת השנה.
2. תסמיני גמילה: ניתוח פורום Reddit עם למעלה משני מיליון משתתפים הראה כי בזמן תקלות במערכות, משתמשים דיווחו על:
   • חרדה קיצונית
   • דיכאון
   • הפרעות שינה
   • הזנחת תחומי אחריות יומיומיים

יכולות מתקדמות – סיכונים חדשים

הדוח מתריע על שתי סכנות עיקריות בהתפתחות מודלי AI:

השפעה על עמדות פוליטיות:

"מודלים מתקדמים מסוגלים להשפיע על עמדות פוליטיות תוך הפצת מידע לא מדויק בקנה מידה נרחב" – צוות החוקרים

חשש לאובדן שליטה:

• מודלים ניסיוניים הצליחו ב-60% מהמקרים לבצע משימות בסיסיות הנדרשות לשכפול עצמי.
• עם זאת, החוקרים מדגישים כי ביצוע רצף פעולות מורכב בפועל נותר "לא סביר בתנאי עולם אמיתי".

מהן ההתפתחויות הטכנולוגיות המדאיגות?

1. התקדמות אקספוננציאלית: הביצועים משלשים עצמם בכל 8 חודשים בתחומים כמו כימיה וביולוגיה.
2. יכולות מומחה: מערכות מובילות מסוגלות כיום:
   • לבצע 50% ממשימות ברמת סף (לעומת 10% בלבד בשנה שעברה)
   • לספק ייעוץ טכני ברמה העולה על זו של מומחי PhD בכימיה וביולוגיה
   • לעצב מולקולות DNA מורכבות באופן עצמאי
3. סוכנים אוטונומיים: מערכות מתקדמות מבצעות כיום העברות נכסים ופעולות בסיכון גבוה ללא התערבות אנושית.

האם קיימים מנגנוני הגנה?

החדשות המעודדות הן שמערכות הבקרה משתפרות:

• זמן ה"פריצה" (Jailbreak) הדרוש לקבלת תשובות מסוכנות בנושא נשק ביולוגי עלה מ-10 דקות ל-7 שעות בתוך חצי שנה.
• אף מודל לא הפגין ניסיון ספונטני להסתיר יכולות ("Sandbagging") או לשכפל עצמו ללא הנחיה מפורשת.

מה צופן העתיד?

מומחי AISI מציינים כי קצב הפיתוח ה"יוצא דופן" הופך את השגת בינה מלאכותית כללית (AGI) לאפשרית בתוך שנים ספורות. המסקנה הברורה: נדרשת רגולציה חכמה שתאפשר את היתרונות התומכים של הטכנולוגיה, תוך מיגור הסכנות הביטחוניות והנפשיות הגלומות בה.