קליפורניה אוסרת על AI להציף מוסדות ציבור
קליפורניה העבירה שתי חבילות חקיקה חדשות להתמודדות עם כוחן של חברות ההייטק: הראשונה אוסרת להשתמש ב-AI כדי להתחזות לאזרחים ולהציף מוסדות ציבור בפניות מזויפות, והשנייה אוסרת על פלטפורמות חברתיות להציג לילדים תכונות ״ממכרות״ כמו הפעלה אוטומטית. החקיקה מגיעה עם קנסות אפשריים של מיליארדים.
בואו נדבר רגע על מה שקורה בקליפורניה, כי אם אתם עובדים בתעשיית ה-AI — הסיפורים האלה הם לא חדשות רחוקות. הם זכוכית מגדלת על הכיוון שאליו הולכת הרגולציה, ועכשיו זה מתגבש לחוקים ממשיים.
המדינה העבירה לאחרונה שורת חוקים תקדימיים שנועדו להדק את הפיקוח הן על שימושי בינה מלאכותית והן על פלטפורמות מדיה חברתית. הרעיון המרכזי: לאפשר למדינה ולתושבים להתמודד עם הכוח הגובר של מודלים מתוחכמים וחברות הענק ששולטות בהם.
אז מה בעצם קרה כאן?
החקיקה הראשונה היא חוק SB 1159, שעבר בבית הנבחרים המקומי. החוק הזה מטפל ישירות בתופעה הולכת וגוברת: שימוש בבינה מלאכותית כדי ״להציף״ מוסדות ציבור בפניות מזויפות.
הבעיה: ״הצפה״ מזויפת
חשבו על זה ככה: במדינה דמוקרטית, מוסדות ממשלתיים — כמו מועצות איכות אוויר או ישיבות מועצה ציבוריות — חייבים להתייחס לקולות של אזרחים. אבל מה יקרה אם מישהו ״ישכיר״ כלי AI כדי לייצר אלפי או עשרות אלפי הערות ציבוריות מזויפות, הנראות אמיתיות?
זה לא תיאורטי. חקירה של Los Angeles Times חשפה קמפיין כזה בדיוק, שבו יועץ בשם מאט קלינק השתמש ככל הנראה בפלטפורמת CiviClick כדי לייצר 20,000 הערות ציבוריות שהציפו את South Coast Air Quality Management District לקראת הצבעה חשובה על איסור שימוש במכשירי גז. התוצאה: ההצעה נדחתה. CiviClick טוענת שה-AI לא שימש בקמפיין הספציפי הזה, אך מודה שהיא מציעה את הכלי ללקוחות אחרים. ב״ניו יורק טיימס״ גם צוטטו אנשי ממשל שמתקשים להגיב בזמן סביר לבקשות לרשומות ציבוריות אוטומטיות המגיעות מה-AI.
הפתרון: ״AI אינו זכאי ל-10 ימים״
חוק SB 1159 קובע פתרון ישיר, אם כי לא מושלם:
- איסור על התחזות: אסור ״לדעת״ להשתמש בבינה מלאכותית כדי להתחזות לאדם אמיתי בתקשורת עם סוכנות ממשלתית.
- אין חובה: סוכנויות ממשלתיות אינן חייבות להתייחס לפנייה מאדם או מבוט AI כאילו הגיעה מאדם. כפי שאומר הסנטור כריסטופר קבלדון: ״ה-AI אינו זכאי ל-10 ימים למענה על בקשת מסמכים, ה-AI אינו זכאי ל-3 דקות בישיבת מועצת בית הספר.״
החוק מאשר לסוכנויות להשתמש בכלי ״גילוי״ כדי לאתר תקשורת שמקורה ב-AI. זה עדיין קרבות חימוש, אבל לפחות לחוק יש שיניים.
הצד השני של המטבע: הגנה על ילדים ברשת
במקביל לפיקוח על ה-AI, קליפורניה העבירה גם חוקים שנועדו להגן על ילדים ובני נוער מפני הנזקים של פלטפורמות חברתיות. חוק AB 1709 הוא המרכזי שבהם.
הוא אוסר על פלטפורמות מסוימות (חושבים על Instagram, TikTok) לספק ״תכונות ממכרות״ למשתמשים מתחת לגיל 16. מה נחשב ״ממכר״?
- הפעלה אוטומטית (Autoplay).
- פידים עם תוכן מומלץ (שהאלגוריתם דוחף לכם).
הטענה היא שהתכונות הללו מסוכנות למוחות מתפתחים ותורמות לבעיות של דיכאון, חרדה והפרעות אכילה. החוק הזה הגיע אחרי שMeta, בעלת Facebook ו-Instagram, הסכימה לשלם עד 17 מיליארד דולר כדי ליישב תביעה ייצוגית ענקית שטענה כי החברה ״עיצבה והטמיעה תכונות מזיקות״.
״לעצור קצת״ – המגמה הגדולה
חוקרים תיארו את הגישה הזו של קליפורניה כ״לחיצה על הבלמים״ (pumping the brakes), אחרי שנים שבהן ״הטכנולוגיה רצה חופשי״.
ויש גם מהפך תפיסתי. גאווין ניוסם, מושל קליפורניה, הודה ב״מתח התמידי״ בין הגנה על הציבור לבין שמירה על תעשיית הטכנולוגיה שמכניסה כסף רב למדינה. הוא אמר שהמדינה ״מובילה״ בחקיקה הזו, ״נוטה קדימה״ ו״תדחוף גבולות״.
המגמה הזו לא מוגבלת רק ל-AI או לרשתות חברתיות. מרכזים דיגיטליים (Data Centers) גדולים נכנסים גם הם לרדאר הרגולטורי, בשל חששות מעליית מחירי החשמל ומהעומס על אספקת המים.
מה זה אומר עליכם?
אם אתם מפתחים מוצר AI שפונה לציבור — אפילו בארה״ב — צפו ליותר ויותר דרישות להבחנה ברורה. האם התקשורת שלכם עם משתמשים או רגולטורים היא אנושית או מבוססת AI? החוק בקליפורניה הולך לעשות הבחנה.
אם המוצר שלכם נוגע לצעירים, העיצוב (Design) של חוויית המשתמש — במיוחד מנגנונים שמגבירים מעורבות (engagement loops) — יהיה תחת מיקרוסקופ. Autoplay ו״פידים אינסופיים״ הם כבר לא רק עניין של conversion rate, אלא של חבות משפטית.
קליפורניה, מרכז ההייטק העולמי, מתמודדת עם מתח שרבות ממדינות העולם עדיין חוששות לגעת בו: איך לעצור את ״הנזקים״ של הטכנולוגיה בלי ״לעכב״ את הצמיחה שלה. החקיקה הזו היא הניסיון הראשון והממוקד ביותר בארה״ב למצוא את האיזון הזה. עוד לא ראינו את הקרבות המשפטיים שיבואו, אבל הקו בחול כבר שורטט.