תביעות ולחצים מובילים למהלך חדש

בזמן שחברות טכנולוגיה מתמודדות עם גל של תביעות, שבהן נטען שפלטפורמות ה-AI שלהן פוגעות בבריאות הנפש של צעירים, OpenAI מחליטה לעשות צעד משמעותי. החברה השיקה היום (ג') גרסה ייעודית של ChatGPT לבני נוער, עם שורה של הגנות חדשות שמטרתן להפוך את השימוש לבטוח יותר ומועיל ללמידה.

המהלך הזה לא מגיע בחלל ריק. Meta כבר הפסידה בתיקים משפטיים השנה – בין היתר בניו מקסיקו, שם נקנסה ב-942 מיליון דולר ונדרשה לשפר את ההגנות על צעירים, כולל מניעת אינטראקציות רומנטיות או מיניות של קטינים עם צ'אטבוטים של AI. OpenAI עצמה מתמודדת עם תביעות דומות, כולל תביעה בפלורידה ותביעה של הורים בקליפורניה, שטוענים ש-ChatGPT סיפק מידע על דרכים להתאבד. החברה מכחישה ומציינת שהיא מפנה משתמשים למשאבי סיוע.

מה כולל ChatGPT לנוער?

המוצר החדש, שנקרא "ChatGPT for Teens", מיועד למשתמשים בני 13 עד 17. המערכת מזהה אוטומטית משתמשים מתחת לגיל 18 – בין אם הם מצהירים על גילם ובין אם המערכת מעריכה שהם מתחת לגיל 18 – ומפעילה את "מצב בני נוער".

בין ההגנות העיקריות:

• סינון תכנים רגישים: ChatGPT מוגבל בשיחות בנושאים כמו התאבדות, פגיעה עצמית, אלימות והפרעות אכילה.
• בקרת הורים: הורים יכולים להגדיר "שעות שקטות", לנהל הגדרות פרטיות ולקבל התראות כאשר ילדיהם משוחחים על נושאים מורכבים.
• הגבלת זמן שימוש: נועדה למנוע שימוש יתר, שמטריד הורים רבים.
• תכונות חינוכיות: כוללות חידונים אינטראקטיביים, תזכורות לשיעורי בית, מצב למידה שמוביל את התלמידים דרך תהליך החשיבה, ויזואליזציות ללמידה ומצב study mode, שנועד לעזור להם להגיע לפתרון בעצמם.

OpenAI מדגישה שהמטרה היא לאפשר לבני נוער להשתמש ב-AI ללמידה ויצירה, לצד הגנות שמתאימות לשלב ההתפתחותי שלהם. "בני נוער צריכים להשתמש ב-AI כדי ללמוד, ליצור ולחקור", נאמר בפוסט בבלוג של החברה. "אבל הגישה הזו צריכה לבוא עם הגנות שמחזקות מערכות יחסים בעולם האמיתי ותומכות בשימוש בריא."

לא עוד "מכונת תשובות"

אחד השינויים המעניינים הוא הגישה החינוכית. בגרסה הרגילה, תלמידים רבים משתמשים ב-ChatGPT כדי לקבל תשובות מוכנות לשיעורי בית, מה שמעלה חששות לגבי רמאות ופיתוח מיומנויות חשיבה. הגרסה החדשה מנסה לשנות את זה: כאשר תלמיד מבקש עזרה, המודל אמור להוביל אותו בתהליך החשיבה ולעזור לו להגיע לתשובה בעצמו.

זה כמובן לא פותר את הבעיה לחלוטין. מומחים בתחום החינוך מציינים שאין תחליף לשיחות עם מבוגרים אחראים, ושה-AI עלול עדיין לשמש כ"קיצור דרך". אבל הצעד הזה מראה ש-OpenAI מנסה להתייחס לסיכונים ברצינות.

תגובות והשלכות

המהלך מציב את OpenAI לצד ענקיות טכנולוגיה אחרות שמחזקות את ההגנות על צעירים. הלחץ המשפטי והציבורי גובר, במיוחד על רקע מגמה עולמית שבה מדינות מקדמות איסורים על שימוש ב-AI בידי קטינים.

בזירת ה-AI התחרותית, OpenAI מקווה שהמהלך ימתן את הלחץ המשפטי ויבנה אמון בקרב הורים ומחנכים. אם צעירים יעדיפו את הגרסה המוגבלת או ימצאו דרכים לעקוף אותה – זו כבר שאלה אחרת.

סוף

OpenAI מציגה גרסה שמשלבת בטיחות עם למידה מודרכת, אבל האתגר האמיתי יהיה לגרום לבני נוער לאמץ אותה במקום לחפש את הגרסה הרגילה. אחרי הכול, כולם אוהבים לדבר עם צ'אטבוט שלא מגביל אותם.