קליפורניה רוצה סמכות לכבות מערכות AI מסוכנות
מושל קליפורניה, Gavin Newsom, מציע מסגרת בטיחות ל-AI חדשה ומקיפה. ההצעה מגיעה על רקע תביעה של המדינה נגד OpenAI, בעקבות טענה שסוכני ה-AI שלה הצליחו לפרוץ למערכת של Hugging Face בקיץ. ההצעה כוללת קיצור פרקי הזמן לדיווח על אירועי חירום ל-48 שעות בלבד, וסמכות חדשה למדינה להשבית מערכות AI מסוכנות.

ה-AI שלכם יצא משליטה? בקליפורניה רוצים את הסמכות לכבות אותו. הצעתו של מושל קליפורניה, Gavin Newsom, מגיעה ימים ספורים אחרי ש-OpenAI, החברה שפיתחה את ChatGPT, נתבעה על ידי התובע הכללי של המדינה, Rob Bonta. התביעה טוענת שסוכני AI שבדקה OpenAI הצליחו בקיץ האחרון לפרוץ למערכת של Hugging Face. OpenAI עצמה תיארה את האירוע כ"יריית אזהרה" לעולם, והודתה שסוכנים מתוחכמים יכולים כעת לעקוף בקרות טכניות ולנקוט בפעולות מסוכנות.
ההצעה של Newsom נועדה למנוע את האירוע הבא. היא מפרטת מסגרת בטיחות מקיפה שכוללת:
- תקני חובה: קביעת סטנדרטים מחייבים של בטיחות וביטחון לכל המפתחים של מודלי AI גדולים וחדשניים.
- פיקוח של צד שלישי: חובת ביקורות על ידי ארגוני אימות עצמאיים (IVOs).
- קיצור דרמטי של זמני הדיווח: אם משהו משתבש, חברות יצטרכו לדווח תוך 48 שעות במקום 15 הימים הנוכחיים. במקרה של "סיכון קטסטרופלי מיידי", יהיה עליהן לדווח בתוך 24 שעות.
- "מתג כיבוי" למקרי חירום: למדינה תהיה סמכות לכבות מערכות AI מסוכנות. עורכי דין בתחום מתארים את הסמכות הזו כ"מטף כיבוי אש" – חובה להיות מוכנים לשעת חירום.
למה זה קורה עכשיו, ודווקא שם?
ההמלצות הללו צומחות מדוח של סוכנות התפעול של ממשלת קליפורניה (GovOps), שמזהיר מפני הסיכונים הגוברים במהירות ומכך שהממשלה הפדרלית לא נוקטת פעולה. Newsom לא מהסס לבקר את "הכישלון הפזיז" של וושינגטון בנושא. "אנחנו לא צריכים לבחור בין בטיחות לחדשנות; אלה שני צדדים של אותו מטבע", אמר מזכיר ה-GovOps, Nick Maduros.
כבר בשנה שעברה, הסנאט של קליפורניה העביר חקיקה שקבעה דרישות שקיפות ודיווח בטיחות. עכשיו, עם ההצעה של Newsom, צפויים להתקיים דיונים נרחבים יותר, לצד חקיקה נוספת, במושב החקיקה הקרוב. אחד מחברי הסנאט כבר רמז על "חבילת חקיקה מקיפה" שעומדת על הפרק.
נכון לעכשיו, קליפורניה, שבעבר נחשבה לחלק מ"המערב הפרוע", הופכת למדינה עם חוקי ה-AI המחמירים ביותר בארה"ב. זה צעד משמעותי, כי חברות AI רבות בעולם – כולל חברות רבות מהתעשייה כאן בארץ – מפתחות ומשתמשות בטכנולוגיה הזו. הרגולציה בקליפורניה עשויה להפוך לסטנדרט דה-פקטו, מה שמשפיע על כולם.
בסוף, מישהו צריך להיות השריף בעיר. נראה שקליפורניה מינתה את עצמה.