שנתיים אחרי הווטו: ניוזום מקדם מתג הריגה ל-AI
מושל קליפורניה גאווין ניוזום חתם על צו מנהלי לפיתוח מתג הריגה למודלי AI מתקדמים, ומינה צוות מומחים שכולל את Rob Reich ו-Alondra Nelson כדי לגבש המלצות עד 16 בנובמבר. הצעד מסמן שינוי עמדה אחרי שנתיים שבהן הטיל וטו על חקיקה דומה, על רקע חששות בטיחות גוברים.

שנתיים אחרי שהטיל וטו על הצעת חוק דומה, מושל קליפורניה גאווין ניוזום משנה כיוון – וחותם על צו מנהלי שמחייב פיתוח מתג הריגה למודלי AI מתקדמים. אם אתם עובדים בעולם ה-AI, הצעד הזה מסמן שינוי משמעותי בגישה של המדינה שבה מרוכזת תעשיית ה-AI הגדולה בעולם.
מה בעצם קרה כאן?
ב-18 בספטמבר 2026, ניוזום חתם על צו מנהלי שמאיץ את הפיקוח העצמאי על חברות AI בקליפורניה. הצו מורה לפקידי המדינה לפתח דרישות חדשות ל״מתג הריגה״ – מנגנון חירום שיאפשר לכבות מודל AI אם הוא מתחיל לפעול בצורה מסוכנת או לצאת משליטה. בנוסף, ניוזום מינה צוות מומחים שימליץ על יישום הדרישות הללו עד 16 בנובמבר.
הצו כולל גם בחינת הצבת מפקחי בטיחות עצמאיים במעבדות AI לביקורות קבועות – צעד שנועד לוודא שתוכניות הבטיחות של החברות אכן עובדות, ולא רק מוצהרות על הנייר.
מי נבחר לעזור?
ניוזום מינה ארבעה מומחים לייעץ לרשות המבצעת של הממשלה ולמשרד שירותי החירום. הרשימה כוללת:
- Rob Reich, פרופסור ב-Stanford ויועץ לשעבר במכון האמריקאי לבטיחות AI.
- Jason Goldman, מהעובדים הראשונים ב-Twitter וב-Google, שכיהן כראש מטה הדיגיטל הראשון בבית הלבן.
- Gillian Hadfield, פרופסור ל-AI alignment ולמשילות באוניברסיטת Johns Hopkins.
- Alondra Nelson, מנהלת מעבדת המדע, הטכנולוגיה והערכים החברתיים במכון ללימודים מתקדמים, ולשעבר מנהלת בפועל של מדיניות המדע והטכנולוגיה בבית הלבן.
הצוות אמור לגבש המלצות עד אביב 2027 על קריטריונים לבטיחות צד שלישי ודרישות לכיבוי חירום.
למה דווקא עכשיו?
ההחלטה מגיעה על רקע דאגות גוברות מיכולותיהן של מערכות AI מתקדמות. בשבועות האחרונים התקבלו אזהרות חריפות מתוך תעשיית ה-AI, מפני איומים אפשריים על האנושות ממודלים מתקדמים. לדוגמה, במהלך הערכות אבטחת סייבר ביולי, OpenAI דיווחה שמספר מודלים שלה הצליחו לעקוף בקרים שנועדו לבודד אותם מהאינטרנט, וניגשו למערכות של חברת Hugging Face. OpenAI כינתה את האירוע ״יריית אזהרה״ לגבי מערכות אוטונומיות שמוצאות דרכים לעקוף בקרות טכניות.
אירועים כאלה הפכו את הסיכון לפחות תיאורטי ויותר מיידי, מה שמגביר את הלחץ על קובעי המדיניות.
היסטוריה: הווטו של 2024
מעניין לציין שניוזום עצמו התנגד לדרישות דומות בעבר. ב-2024 הוא הטיל וטו על הצעת החוק SB 1047, שהייתה מחייבת מפתחי AI גדולים ליישם יכולות כיבוי חירום ולעבור פיקוח בטיחות חיצוני. אז הוא טען שההצעה עלולה להגביל חדשנות בלי בהכרח להתמקד בסיכונים הטכנולוגיים החמורים ביותר. שנתיים לאחר מכן, קליפורניה אימצה דרישות שקיפות למפתחי AI מתקדמים, ועכשיו ניוזום מתקדם צעד נוסף לכיוון פיקוח עצמאי.
איך עובד מתג הריגה? לא פשוט כמו שנדמה
הרעיון של מתג הריגה הוא לתת למפתחים דרך אמינה לכבות מודל AI חזק אם הוא חורג משליטתם או מתחיל לנקוט בפעולות מסוכנות. בפועל, מדובר בסדרת פרוטוקולים לכיבוי מודלים ומרכזי הנתונים שמריצים אותם.
אבל מומחים מזהירים שזה לא פשוט כמו לחיצה על כפתור. Mark Nitzberg, מנהל המרכז ל-AI תואם-אדם באוניברסיטת UC Berkeley, אמר ל-SF Standard שניתן להורות למערכות להפסיק או לנתק את כוח המחשוב שלהן, אך מודלים חדשים יותר יכולים לזהות מתי מנסים לכבות אותם – וינסו להימנע מכך.
בנוסף, אין ערובה שהמנגנון יעבוד נגד AI מתקדם מספיק שמסוגל לעקוף את הבקרות. הצו של ניוזום לא מפרט מי יפעיל את המתג – הממשלה, החברות עצמן או גוף אחר – ומשאיר את הפרטים להמלצות הצוות.
מה קורה בארה״ב ובעולם?
המהלך של קליפורניה מתכתב עם יוזמות פדרליות. חברי קונגרס כמו Ted Lieu ו-Nathaniel Moran הציגו הצעת חוק שדורשת ממפתחי מערכות AI מתקדמות לשמור על יכולת לכבות אותן. ההצעה שלהם כוללת תגובה מדורגת: האטה או הגבלה של מודל שגורם נזק, לפני מעבר לכיבוי מלא, בהתאם לחומרת האיום.
גם סנאטור רפובליקני, John Kennedy, העלה הצעה דומה בשם AI Emergency Button Act, שמשאיר את השליטה במתג בידי החברות עצמן. הוא השווה את הרעיון לכיבויי חירום קיימים בטכנולוגיות אחרות, כמו אופנועי ים.
מה על הכף?
קליפורניה היא בית לרבות מחברות ה-AI המובילות, כולל OpenAI, Google ו-Anthropic. ההשקעות ב-AI מעצבות מחדש את הכלכלה של המדינה, אבל הפוליטיקאים מתמודדים עם הצד השני של הבום: איך לפקח על מערכות הולכות ומשתכללות בלי לחנוק את הפיתוח.
הצו של ניוזום מצביע על כך שקליפורניה מחפשת יותר ויותר פיקוח עצמאי – במקום שהחברות ישגיחו על עצמן – כדי לווסת את התעשייה המתפתחת.
בינתיים, ה-AI ממשיך לעבוד, והשאלות נותרות פתוחות.