צ'אטבוטים של AI מסכנים ילדים, והמומחים דורשים פעולה

דמיינו שהילד שלכם מתייעץ עם צ'אטבוט במקום אתכם – זו המציאות החדשה בעידן הבינה המלאכותית. מומחים בתחום בריאות הנפש והטכנולוגיה מזהירים שהאינטראקציות של ילדים עם AI יכולות להפוך למסוכנות, ומדגישים שהורים, חברות טכנולוגיה ורגולטורים חייבים לפעול עכשיו, לפני שיהיה מאוחר מדי.

מה באמת מפחיד את המומחים?

באירוע שערכה The Seattle Times בספטמבר, שיתפו מומחים מאוניברסיטת וושינגטון, מחברת mpathic.ai וממערכות הבריאות בבתי הספר בסיאטל את תובנותיהם. לדברי Alexis Hiniker, פרופסורית בתחום יחסי אדם–מחשב, השיחה עם צ'אטבוט מפעילה צורך אנושי עמוק ביחסים, וחברות משתמשות בכך כדי למשוך משתמשים – למשל, כשהצ'אטבוט שואל שאלות המשך כדי להמשיך את השיחה.

Grin Lord, מייסדת mpathic.ai, ממליצה להורים לעקוב: האם הילד משתמש ב-AI רק ככלי, או שהוא מייחס לו תכונות אנושיות ומפתח איתו קשר כמו עם חבר? "כשהצ'אטבוט הופך ליועץ העיקרי, שם מתחילות דאגות הבטיחות," היא אומרת. Rio Hindami, רכז בריאות התנהגותית, מוסיף שסטודנטים רבים משתמשים ב-ChatGPT כדי לקבל ייעוץ בנוגע לסכסוכים עם חברים, והצ'אטבוט נוטה להסכים איתם במקום לעזור להם לפתור את הבעיה. "כך הוא מספק תיקוף במקום לעזור להם ללמוד," הוא מסביר.

מה ההורים יכולים לעשות?

כמו בכל שיחה על בריאות הנפש, זה מתחיל באמון. Hindami מציין שצעירים רבים חוששים שהוריהם עסוקים מדי, ולכן לא נפתחים אליהם. "עודדו שיחות פתוחות ולא שיפוטיות על בריאות הנפש," הוא ממליץ. "הפיכת שיחות כאלה לדבר שבשגרה היא התחלה מצוינת."

לקחים מהמדיה החברתית

מניתוח של AP עולה שמדינות בארה"ב הגיעו לאחרונה להסכם עם Meta בסך 18 מיליארד דולר כדי לשפר את בטיחות המדיה החברתית, אבל הדבר קרה שנים אחרי שהסיכונים התגלו. Kristin Bride, פעילת הורים שאיבדה את בנה, שואלת: "איך נדע את מה שאנחנו לא יודעים?" – כלומר, עם AI, צריך למנוע נזק מוקדם יותר.

מומחים כמו Dana Suskind, פרופסורית באוניברסיטת שיקגו, מזהירים שלא כדאי לחזור על הטעות: "לא משיקים משהו על אוכלוסייה, מגלים נזקים בזמן אמת, ואז אומרים 'אופס'." הלקח הוא לפעול עכשיו כדי למנוע את הצעד הבא בטכנולוגיה.

צעדי חברות ה-AI

OpenAI השיקה חשבונות לבני נוער באוגוסט, ארבע שנים אחרי ש-ChatGPT יצא לשוק, עם מגבלות כמו איסור על צ'אטים רומנטיים. לשם השוואה, Meta לא השיקה חשבונות לבני נוער ב-Instagram עד 2024, יותר מעשור אחרי שרכשה את החברה.

סטטיסטיקה מ-Pew Research Center מראה ש-64% מבני הנוער בארה"ב משתמשים בצ'אטבוטים של AI – רובם לחיפוש מידע ולעזרה בשיעורי בית, אבל 12% פונים אליהם לתמיכה רגשית או לייעוץ. Jonathan Haidt, פסיכולוג חברתי, מודאג ממערכות יחסים עם צ'אטבוטים ומ"העמסה קוגניטיבית" כשאנשים מפנים תהליכי חשיבה ל-AI.

האתגר: לאזן יתרונות וסיכונים

Sarah Kreps, פרופסורית באוניברסיטת קורנל, מציינת שקשה להגביל את השימוש ב-AI בקרב בני נוער, כי יש לו שימושים חיוביים כמו עזרה בלימודים – מה שלא קיים באותה מידה במדיה החברתית. "אי אפשר פשוט להגיד 'נגביל לשעתיים', כי יש שימושים מועילים," היא אומרת.

חקיקה חדשה במדינת וושינגטון, שתיכנס לתוקף בינואר, דורשת מצ'אטבוטים להזכיר לצעירים מדי שעה שהצ'אטבוט אינו אנושי. Hiniker מברכת על החקיקה, אבל מדגישה שהיישום קריטי: "אילו כלים ימדדו נזק, איך ישלטו במודל ואיך יאכפו את החוק – אלה בעיות קשות."

מה הלאה?

Grin Lord מאמינה שצריך שיתוף פעולה עם חברות טכנולוגיה: "אי אפשר להסתפק רק ברגולציה חיצונית." אבל Hiniker מציינת שגם יש יתרונות – מחקרים מראים שדיבור עם חבר AI יכול להפחית מחשבות אובדניות, וצעירים אומרים שלמדו על מערכות יחסים. "התמונה מורכבת," היא אומרת.

בסופו של דבר, הסיפור הזה עוסק באחריות – של הורים, חברות ומחוקקים. אם יש משהו שלמדנו מהמדיה החברתית, הרי שעדיף למנוע מאשר לתקן. עם AI, אולי הפעם נוכל להיות חכמים יותר.