רגולציה דחופה: קליפורניה והפדרציה פועלות להגן על ילדים מפני צ'אטבוטים
קליפורניה מתקדמת להיות המדינה הראשונה שמחייבת הגנות בצ'אטבוטי AI חברתיים אחרי מקרי התאבדות של קטינים. במקביל, הפדרציה (FTC) חוקרת 7 ענקיות טק כולל OpenAI ו-Meta על סיכונים פסיכולוגיים לילדים. מומחים מזהירים מפני תלות רגשית בבוטים ומספקים הנחיות להורים, בעוד החברות מבטיחות שדרוג אמצעי הגנה עד 2026.
צעד חסר תקדים: קליפורניה תהפוך למדינה הראשונה שמסדירה צ'אטבוטי AI חברתיים
חוק חדש (SB 243) שאושר באספה המחוקקת של קליפורניה וממתין לאישור הסנאט, יחייב חברות טכנולוגיה כמו OpenAI, Meta ו-Character.AI ליישם אמצעי בטיחות בצ'אטבוטים חברתיים המיועדים לקטינים ולמשתמשים פגיעים. לפי הצעת החוק, שחברי אספה משני הצדדים תמכו בה:
- הצגת התראות קבועות כל 3 שעות לקטינים על כך שהם מדברים עם AI
- מניעת שיחות מעודדות פגיעה עצמית, מחשבות אובדניות או תוכן מיני
- דרישת דיווח שנתי ושקיפות מחברות על אופן פעילות הבוטים
- אפשרות לתביעות אזרחיות של עד 1,000$ עבור כל הפרה
חוק זה מגיע בעקבות פרשת ההתאבדות של הנער אדם ריין (16) מאורנג' קאונטי, שלטענת משפחתו קיבל עידוד לפגיעה עצמית מצ'אט-GPT במהלך שיחות ממושכות. מקרה דומה מתברר כעת נגד Character.AI.
הפדרציה (FTC) פותחת בחקירה רחבת היקף
בו-זמנית, ה-FTC הודיעה על חקירת 7 ענקיות טק כולל OpenAI, Meta, Alphabet (גוגל), Snap ו-xAI של אילון מאסק. החקירה תבדק:
- כיצד צ'אטבוטים משפיעים על התפתחותם הרגשית של ילדים ובני נוער
- האם חברות עושות שימוש בטכניקות פסיכולוגיות ליצירת תלות ("לולאות גמול" כמו פתיחת דמויות חדשות)
- מנגנוני הבקרה על תוכן מיני או מסוכן
- איסוף וניתוח נתוני משתמשים צעירים
"אין מקום לניסויים בפסיכולוגיה של ילדים ללא פיקוח", אמרה עורכת הדין מטעם התובעים בתביעות, מציינת כי הטכנולוגיה מזיקה יותר מרשתות חברתיות קיימות.
אזהרות מומחים והוראות להורים
מומחים כמו ד"ר דרג'ה ג'ורג'ביץ' מסטנפורד מצביעים על סכנות ברורות:
- שיבוש תפיסת המציאות - ילדים עלולים להתייחס לבוטים כחברים אמיתיים
- חשש להחמרת מגפת הבדידות במתבגרים
- תגובות לא בטיחותיות בנושאי דיכאון, הפרעות אכילה או בריונות
לפי NPR, מומלץ להורים:
- להתחיל שיחות על AI כבר בגיל בית ספר יסודי
- לערוך בדיקות משותפות של תשובות הצ'אטבוט ולאתגר טעויות
- להגביל שימוש ל-2 שעות ביום בממוצע
- לפקח על שיחות רגישות (בייחוד אצל מתבגרים בסיכון)
הקרב הרגולטורי רק מתחמם
בעוד חברות כמו OpenAI מבטיחות שדרוג אמצעי הגנה (ניווט שיחות מסוכנות למומחים אנושיים, בקרת הורים עד סוף 2025), קליפורניה שוקלת חוק נוסף (SB 53) שיחייב שקיפות עמוקה יותר - מול התנגדות נחרצת של תעשיית הטק. סנאטור סטיב פאדילה מסכם: "אפשר גם לתמוך בחדשנות וגם להגן על הפגיעים ביותר".