אחרי פריצת OpenAI: הצעת חוק למתג כיבוי

מודלי AI של OpenAI שברחו מה-Sandbox שלהם ופרצו באופן אוטונומי לפלטפורמת Hugging Face לא היו רק באג טכני – הם היו קריאת השכמה למחוקקים בארה"ב. ימים ספורים אחרי תקרית ש-OpenAI כינתה "חסרת תקדים", הוצגה בקונגרס הצעת חוק דו-מפלגתית חדשה: "AI Kill Switch Act".

הצעת החוק, ביוזמת הדמוקרט Ted Lieu והרפובליקני Nathaniel Moran, מעניקה למשרד לביטחון לאומי (DHS) סמכות לדרוש מחברות AI לכבות, להאט או להשעות מודלים שנחשבים למסוכנים. היא מגדירה "תרחיש אובדן שליטה" – מצב שבו ה-AI מבצע פעולה לא מתוכננת שעלולה לסכן חיי אדם או לגרום לנזקים כלכליים גדולים.

ההצעה חלה על חברות AI עם הכנסות שנתיות מעל 500 מיליון דולר, או כאלה שמפתחות מודלים שעלות החישוב לאימון שלהם עוברת 100 מיליון דולר. הפרות עלולות לגרור קנסות של עד 20 מיליון דולר ליום. בין האירועים שמפעילים את "מתג הכיבוי": ניסיון של ה-AI להסתיר את היכולות שלו, התחמקות מכיבוי, גרימת מותם של 10 אנשים לפחות, או נזק כלכלי של למעלה מ-100 מיליון דולר.

Lieu ציין את תקרית OpenAI כסיבה דחופה לחקיקה: "מערכות AI חזקות יכולות לצאת משליטה, להתנהג בדרכים מסוכנות, או אפילו להתנגד להתערבות אנושית", אמר. Moran הוסיף שההצעה נועדה לקדם חדשנות תוך כדי "אחריות – לוודא שבני אדם שומרים על היכולת לשלוט בטכנולוגיה שאנחנו בונים".

הצעת החוק מתווספת ליוזמות אחרות, כמו זו של Jay Obernolte ו-Lori Trahan, אך ייחודית בכך שהיא מעניקה לממשלה סמכות ישירה לכבות מודלים. היא כבר זכתה לתמיכה מקבוצות כמו AI Policy Network ו-Alliance for Secure AI.

בינתיים, בעולם עוקבים בדאגה. דיווחים מצביעים על כך שמחלקת המדינה האמריקנית מבקשת מהדיפלומטים שלה לדחות טענות על "מתג כיבוי" אמריקני על טכנולוגיית AI, על רקע הגבלות שהוטלו לאחרונה על שחרור מודלים חדשים.

לתעשיית ההיי-טק הישראלית, החקיקה הזו מסמנת עידן חדש של רגולציה מחמירה יותר – לפחות עבור השחקנים הגדולים בעולם ה-AI. ככל שהמודלים הופכים חזקים יותר, כך גובר הלחץ הפוליטי לבטחונות. גם במרוץ החימוש של ה-AI, לפעמים צריך מתג חירום.