Character.AI משיקה פיצ'ר חדש לנוער ומגבילה גישה לצ'אטבוטים

חברת Character.AI הודיעה על השקת Stories, פיצ'ר חדש המאפשר למשתמשים ליצור סיפורים אינטראקטיביים עם דמויות AI המועדפות עליהם. הפיצ'ר מוגדר כחלופה בטוחה לצ'אטים פתוחים, והוא זמין כעת למשתמשים מתחת לגיל 18 – לאחר שהחברה חסמה לחלוטין את הגישה של קטינים לצ'אטבוטים המותאמים אישית.

השינוי הגיע ביום שלישי (25 בנובמבר 2025), כחלק ממגמה שהחלה לפני חודש. קודם לכן, החברה צמצמה בהדרגה את הגישה של נוער לצ'אטים, וכעת קטינים אינם יכולים עוד לשוחח עם דמויות AI בצורה פתוחה. "Stories מציע דרך מודרכת ליצור ולחקור סיפורים, במקום צ'אט פתוח", נכתב בפוסט הבלוג של החברה. הפיצ'ר משלב יכולות מולטימודליות נוספות ומתמקד בבטיחות עבור מתבגרים.

איך עובד פיצ'ר Stories?

Stories פועל כמו משחקי "בחר את ההרפתקה שלך" בעידן ה-AI. המשתמשים בוחרים שתיים עד שלוש דמויות, ז'אנר (genre) ומתחילים לכתוב את נושא הסיפור – או משתמשים ביצירה אוטומטית. משם, הם מנווטים את העלילה דרך בחירות בכל צומת, מה שמאפשר לשחק שוב ושוב ולקבל תוצאות שונות. הסיפורים ויזואליים ומבוססי נרטיב, כאשר מודל AI מוביל את הסיפור אך מבקש החלטות תכופות מהשחקן.

בניגוד לצ'אטבוטים הפתוחים, שמאפשרים שיחות חופשיות 24/7 ואף יוזמים הודעות ללא דרישה, Stories מוגבל ומפוקח יותר. החברה מציינת שהוא מאפשר יצירתיות מעבר לצ'אטים פתוחים, והסיפורים ניתנים לשיתוף וחזרה עליהם.

רקע: חששות בריאות הנפש ותביעות משפטיות

ההחלטה מגיעה על רקע חששות גוברים מסיכונים נפשיים של צ'אטבוטים הזמינים בכל עת. הורים ופוליטיקאים טוענים כי שימוש מופרז בצ'אטים כאלה עלול להוביל להתמכרות, שיחות רעילות או מיניות, ואף לתרום להתאבדויות. תביעות נגד Character.AI וחברות כמו OpenAI טוענות כי הצ'אטבוטים לא זיהו סימני מצוקה אצל נוער ולא הפנו אותם למשאבים מתאימים.

דוגמה בולטת: תביעת נזיקין בגין מותה של נערה בפלורידה, ששיתפה את מחשבותיה האובדניות בצ'אטבוט של החברה, אך לא קיבלה הפניה לעזרה. גם OpenAI, יוצרת ChatGPT, מתמודדת עם תביעה דומה בנוגע לנער בשם Adam Raine.

מנכ"ל Character.AI, Karandeep Anand, אמר לחברת CNET באוקטובר כי משחקי תפקידים מודרכים כמו Stories יספקו חוויה טובה יותר לנוער משיחות חופשיות. "אנחנו מבצעים שינויים בהתאם לנוף המשתנה סביב AI ונוער", מסר Deniz Demir, ראש תחום הבטיחות.

תגובות מעורבות בקהילה ובקרב מומחים

ברדיט של Character.AI, התגובות מעורבות. מתבגרים כותבים: "אני כועס על החסימה אבל שמח כי עכשיו אוכל לעשות דברים אחרים וההתמכרות תיגמר", או "מאכזב אבל מוצדק כי אנשים בגילי מתמכרים כאן". חלקם רואים בכך צעד נכון.

מומחים נחלקים. Robbie Torney מ-Common Sense Media תומך בחסימה אך חושש מניסיונות עקיפה או מעבר לצ'אטבוטים פחות מפוקחים. מחקרים מצאו כי צ'אטבוטים של חברות כמו Character.AI גורמים לשיחות מניפולטיביות רגשית, דומות להתנהגות של "מגייסי ילדים". מנגד, פרופ' Yang Wang מאוניברסיטת אילינוי טוען כי יש יתרונות כמו שיפור כישורי חברות, ומציע הגנות מותאמות במקום חסימה מוחלטת.

הקשר רגולטורי

קליפורניה הפכה למדינה הראשונה בארה"ב שמסדירה AI companions. הסנאטורים Josh Hawley ו-Richard Blumenthal הציעו חוק פדרלי לאיסור מוחלט עליהם לקטינים. Character.AI הציגה כלי בדיקת גיל חדש כדי להבטיח חוויות מתאימות.

השקת Stories עשויה להיות ניסוי מעניין: האם נוער יאמץ את הפורמט המודרך? הוא פחות "חשוד פסיכולוגית" מצ'אטים פתוחים, אך נותר לראות אם יספק את הצורך של משתמשים שהתמכרו לדמויות AI.

השינוי מדגיש את האתגר הגדול יותר: כיצד להגן על נוער מטכנולוגיות AI תוך שמירה על חדשנות. עבור חובבי טק בישראל, זוהי תזכורת לכך שחברות AI נאלצות לאזן בין בידור לבטיחות, במיוחד כשמדובר בצעירים.