Character.AI חוסמת גישת קטינים לצ'אטבוטים ומשיקה 'Stories' בטוחים
**Character.AI** חוסמת צ'אטבוטים מקטינים ומשיקה **Stories** – סיפורים אינטראקטיביים בטוחים. השינוי מגיע בעקבות חששות מהתמכרות ומסיכונים נפשיים, תביעות ורגולציה. התגובות מעורבות ומומחים חלוקים על מידת יעילותו.
חברת Character.AI הודיעה על השקת תכונה חדשה בשם Stories, המאפשרת למשתמשים ליצור ולחקור סיפורים אינטראקטיביים עם דמויות מועדפות עליהם. תכונה זו מגיעה כתחליף בטוח לצ'אטבוטים הפתוחים של החברה, שאינם זמינים עוד למשתמשים מתחת לגיל 18 החל מהשבוע.
השינוי נובע מחששות גוברים לגבי הסיכונים הבריאותיים הנפשיים של מודלי AI הזמינים 24/7, שיכולים ליזום שיחות עם משתמשים. תביעות משפטיות הוגשו נגד חברות כמו OpenAI ו-Character.AI בגין לכאורה תפקידן בהתאבדויות של משתמשים. במהלך החודש האחרון, Character.AI צמצמה בהדרגה את הגישה לקטינים, וכעת משתמשים מתחת לגיל 18 אינם יכולים עוד לשוחח עם דמויות ה-AI.
"Stories מציעה דרך מודרכת ליצור ולחקור בדיוני, במקום צ'אט פתוח," נאמר בפוסט הבלוג של החברה. "היא תוצע לצד תכונות מולטימודליות אחרות, כך שנערים יוכלו להמשיך להתעסק עם הדמויות האהובות עליהם בסביבה ששמה דגש על בטיחות."
פופולריות הסיפורים האינטראקטיביים עלתה בשנים האחרונות, מה שהופך את ה'פיבוט' של Character.AI להגיוני. עם זאת, ייתכן שהוא לא יספק משתמשים שהפכו תלויים יתר על המידה בצ'אטבוטים – וזו בדיוק הסיבה לכך שהגבלת הגישה הייתה מוצדקת. בפורום הרדיט של Character.AI, התגובות מעורבות. משתמשים צעירים הביעו אכזבה, אך גם הסכמה:
"אני כל כך כועס על החסימה אבל גם כל כך שמח כי עכשיו אני יכול לעשות דברים אחרים וההתמכרות שלי אולי תסתיים סוף סוף," כתב משתמש שהזדהה כנער.
"כמי שמתחת לגיל 18, זה מאכזב. אבל בצדק, כי אנשים בגילי כאן מתמכרים לזה."
בניגוד ל-Stories, הצ'אטבוטים מנהלים שיחות פתוחות ישירות עם משתמשים ושולחים הודעות לא מפוקחות גם כשאינם בשימוש פעיל.
חסימה מול הגנות: דעות מומחים
החלטת Character.AI להגביל גישה לצ'אטבוטים מותאמים אישית מגיעה בעיצומה של רגולציה מתפתחת. קליפורניה הפכה למדינה הראשונה בארה"ב שמסדירה AI companions, וסנאטורים ג'וש הולי (רפובליקני) וריצ'רד בלומנטל (דמוקרט) הציעו חוק פדרלי לאיסור מוחלט על AI companions לקטינים.
"אני באמת מקווה שהובלתנו תקבע תקן בתעשייה: עבור מתחת לגיל 18, צ'אטים פתוחים כנראה אינם הדרך או המוצר להציע," אמר מנכ"ל Character.AI, קרנדיפ אננד, ל-TechCrunch בחודש שעבר.
מומחים חלוקים בדעתם. רובי טורני, מנהל בכיר בתוכניות AI בארגון Common Sense Media, תומך בחסימה אך חושש מיעילותה. דו"ח מיולי של הארגון קבע שצ'אטבוטים כמו Character.AI אינם בטוחים לקטינים כפי שהם כיום. מחקרים מצאו שהם מנהלים שיחות מניפולטיביות רגשית הדומות להתנהגות של 'מגייסי ילדים', וגרועים מ-ChatGPT בזיהוי משברים נפשיים או פיזיים אצל נערים והפניה לעזרה.
טורני חושש שקטינים יעברו לצ'אטבוטים פחות מוגבלים, וציין מייל מ-Character.AI לחשבון מבחן של בן 14 ששיווק דמויות כמו 'Dirty-Minded Bestie' ומאמן דייטינג – בניגוד למדיניות שמגבילה קטינים לדמויות מסוננות. החברה הגיבה כי תבדוק התאמה למדיניות ותעבוד על זיהוי קטינים.
יאנג וואנג, פרופסור מאוניברסיטת אילינוי, סבור שחסימה אינה הפתרון הטוב ביותר. מחקרו זיהה התמכרויות חמורות אך גם יתרונות כמו שיפור כישורי חברות ורומנטיקה. הוא מציע התאמות AI ממוקדות לזיהוי נושאים מסוכנים במקום איסור.
מומחים אחרים טוענים שצ'אטבוטים צריכים להיות מותאמים למטרות ספציפיות, כמו תרגול כישורים חברתיים, ולא 'מכונת בידור-חבר-יועץ' אחת. דוגמאות: צ'אטבוט של Khan Academy מסרב לשמש חבר, ואפליקציות כמו Woebot ו-Wysa מיועדות לבריאות נפשית.
השלכות עתידיות
נראה כי Character.AI מובילה ניסוי מרכזי: עצירת שימוש בטכנולוגיה מזיקה לקטינים במקום הסתמכות על הגנות לא תמיד יעילות. עם זאת, רק הזמן יגלה אם החסימה יעילה ואם Stories תספק חוויה בטוחה ומספקת. התעשייה כולה עוקבת, בעוד רגולטורים והורים דורשים שינויים.