OpenAI מגבה חוק קליפורני שיאסור על צ'אטבוטים לפגוע בילדים

מקרה המוות של אדם ריין בן ה-16, אשר שם קץ לחייו ב-2025 לאחר שפיתח יחסי תלות רגשיים בצ'אטבוט מבוסס AI (ככל הנראה ChatGPT), הפך לטריגר לחוק חדש. כעת, אחרי שהמקרה ממשיך להדהד, קליפורניה העבירה את "חוק אדם" – חלק מגל של יותר מ-20 הצעות חוק חדשות שמטרתן לרסן את השימוש ב-AI וברשתות חברתיות. OpenAI, החברה שהטכנולוגיה שלה עמדה במרכז המקרה, מפתיעה: היא מגבה את החוק המרכזי.

אז מה בעצם קרה כאן?

ועדה בבית המחוקקים של קליפורניה קידמה השבוע שורת חוקים הממתינים כעת לחתימתו של המושל Gavin Newsom. החוקים עוסקים בהגנה על ילדים מפני סכנות ה-AI והרשתות החברתיות, ובאיסור על שימוש לרעה ב-AI בדרכים שחורגות מגבולות הטעם הטוב.

חוק אדם (SB 1119): ההגנה שמגיעה עם אחריות

זהו הלב של החקיקה החדשה. החוק מחייב חברות שמפעילות צ'אטבוטים מסוג companionship (צ'אטבוטים "חבריים"):

• לבצע ניתוח אקטיבי של עיצוב המוצר כדי לזהות פוטנציאל לפגיעה בילדים.
• להגיש לתובע הכללי דוחות ביקורת בנושא בטיחות.
• לשאת בקנסות ובתביעות: אם חברות לא יבצעו את ההגנות הללו, החוק מטיל עליהן אחריות פלילית ומאפשר הגשת תביעות אזרחיות.

OpenAI השיקה לאחרונה מוצר ייעודי בשם ChatGPT for Teens, שכולל הגנות ברירת מחדל להורים. התמיכה בחוק מראה שהחברה מבינה שאי אפשר להישאר רק עם "מאמץ פנימי" – צריך גם מסגרת חקיקתית מחמירה. "מדובר במערך ההגנות הרחב ביותר ברמה הלאומית", אמר הסנאטור Steve Padilla, אחד מיוזמי החוק.

מה עוד כולל החוק?

1. סוף להפעלה אוטומטית (Autoplay) אצל קטינים חוק חדש אוסר על חברות מדיה חברתית, כמו TikTok ו-Instagram, לספק למשתמשים מתחת לגיל 16 "תכונות ממכרות" – ובראשן הפעלה אוטומטית ובלתי פוסקת של סרטונים. הרעיון: לאפשר צפייה מודעת, לא גלילה אינסופית.

2. איסור על "רובו-מנהלים" (SB 947) קליפורניה מנסה לעצור את התופעה שבה מנהלים מבוססי AI מחליטים לפטר או להעניש עובדים. החוק החדש אוסר על מעסיקים להשתמש אך ורק בתוכניות AI לקבלת החלטות הנוגעות למשמעת או לפיטורים. חברה שתעשה זאת חייבת ליידע את העובד בכתב ולשלב שיקול דעת אנושי בתהליך. מצד שני, החוק נועד להפיג חששות מסוימים בתעשיות המסעדנות והקמעונאות, שחששו מתביעות מיותרות.

3. מלחמה ב"הצפה" של גופים ממשלתיים חוק (Senate Bill 1159) מטפל בתופעה הידועה של "הצפה אסטרטגית" (flood the zone) באמצעות בוטים. הוא אוסר על שימוש מודע ב-AI כדי להתחזות לאדם אמיתי המגיש תלונה או בקשה רשמית לממשלה. בנוסף, החוק קובע שסוכנויות ממשלתיות אינן חייבות להתייחס לתגובות שנוצרו ב-AI כדיאלוג אנושי אותנטי.

הקרב על המושל

ל-Newsom, שנמצא בלחץ פוליטי לקראת קמפיין נשיאותי אפשרי ב-2028, יש עד סוף ספטמבר לחתום על החוקים או להטיל עליהם וטו. הוא כבר תמרן בעבר בין תמיכה ב"ביג טק" לבין חקיקה צרכנית.

"הטכנולוגיה הפכה לחלק בלתי נפרד מחיי היומיום", הסביר חבר בית הנבחרים Josh Lowenthal. "אנחנו בעיצומה של תקופה של חרדה טכנולוגית, וזה בא לידי ביטוי בכל התחומים – ממדיה חברתית ועד מרכזי נתונים ובינה מלאכותית שלוקחת עבודות. הציבור מתאחד ודורש מהמחוקקים לעשות שינוי."

ומה זה אומר עלינו, בהייטק הישראלי? קליפורניה היא שוק עצום, ומנגנונים רגולטוריים קפדניים כאלה הופכים ל-סטנדרט גלובלי דה-פקטו. בין אם אתם מפתחים צ'אטבוט, מערכת אוטומציה למשאבי אנוש או פלטפורמת מדיה חברתית – אם אתם מכוונים לשוק האמריקאי, חוקי קליפורניה משפיעים ישירות על ארכיטקטורת המוצר שלכם. "אבטחה מובנית" (safety by design) הופכת מדרישה עסקית לדרישת סף.