ניווסום מקים פאנל לבחינת מתג כיבוי למודלי AI

מתג כיבוי למודלי AI? נשמע כמו מדע בדיוני, אבל בקליפורניה זה הופך למציאות אפשרית. ביום שישי האחרון, מושל קליפורניה גאווין ניווסום חתם על צו מנהלי שמקים פאנל מומחים בינלאומי, שמטרתו לקבוע רגולציות חדשות לבטיחות בתחום הבינה המלאכותית – כולל אפשרות להתקין מתג כיבוי חירום למערכות AI מתקדמות.

מה קרה?

הצו של ניווסום מורה על כינוס קבוצה של מומחים עולמיים בתחום ה-AI, שיגבשו בתוך חודשיים, עד 16 בנובמבר 2026, המלצות לחיזוק חוקי הבטיחות והאבטחה של קליפורניה בתחום. בין הנושאים שעל הפרק: דרישה מחברות שמפתחות מודלי AI מתקדמים מסוג "frontier" לבנות מנגנון כיבוי חירום שיכול להשבית מודל במקרה של בעיות בטיחות חמורות. בנוסף, הפאנל יבחן אם יש למקם מפקחים עצמאיים במעבדות AI כדי לבצע ביקורות קבועות.

חשוב להדגיש: הצו אינו מחייב התקנה מיידית של מתג כיבוי. במקום זאת, המדינה ומומחים חיצוניים יעבדו על גיבוש המלצות לשינוי חוקי קליפורניה. "אנחנו לא מחכים כדי לפעול – אנחנו הולכים לזרז את העבודה שלנו על פיקוח משמעותי ואחראי על AI לפני שיהיה מאוחר מדי", אמר ניווסום בהצהרה. "אנחנו נעשה את זה בצורה מתחשבת אבל עם דחיפות גבוהה; הסיכונים גדולים מדי כדי לחכות או לעכב פעולה."

למה עכשיו?

המהלך של ניווסום מגיע על רקע סערה בפוליטיקה האמריקאית סביב ה-AI. מוקדם יותר החודש, חוקר לשעבר ב-Anthropic, חברת AI מובילה, התפטר והזהיר ברשתות החברתיות מפני סיכונים קיומיים שטמונים בטכנולוגיה. האזהרות הללו הציתו דחיפות מחודשת בדיונים על רגולציה בוושינגטון. עם זאת, נראה שהקונגרס האמריקאי לא יצליח להעביר חקיקה משמעותית בנושא ה-AI לפני בחירות האמצע של 2026, והנשיא דונלד טראמפ בינתיים מקדם קריאות לרגולציה.

"הכישלון המוחלט של הממשלה הפדרלית ליצור כל צורה של פיקוח או אחריות משמעותית על AI צריך להדאיג כל אמריקאי, במיוחד כאשר מנכ"לי חברות AI עצמם מתחננים לרגולציה", אמר ניווסום. הצו שלו נועד, לדבריו, למלא את החלל שהממשלה הפדרלית מותירה.

מה ההשפעה?

עבורכם, עובדי ההייטק הישראלים, הסיפור הזה רלוונטי גם אם אתם לא עובדים בקליפורניה. בקליפורניה נמצאים עמק הסיליקון ורבות מחברות ה-AI המובילות בעולם – כולל Anthropic, OpenAI ואחרות. רגולציות חדשות שמוטלות שם משפיעות על כל השוק הגלובלי, על הכלים שאתם משתמשים בהם ועל האופן שבו חברות מפתחות מודלי AI.

ההצעה להוסיף מתג כיבוי, למשל, מעלה שאלות מעשיות: איך מטמיעים דבר כזה? מה המשמעות של השבתה פתאומית של מודל AI בזמן אמת? עבור מפתחים וחברות, זה עשוי להפוך לדרישה סטנדרטית בפרויקטים גדולים, ולהוסיף מורכבות לעיצוב ולבדיקות. עבורכם, כאנשי מקצוע, זה עוד פרמטר לקחת בחשבון בתכנון מערכות.

בנוסף, הפאנל יבחן פיקוח עצמאי – רעיון שמדגיש את הצורך באחריות חיצונית לחברות AI. אם זה יקרה, זה יכול ליצור שוק חדש לחברות ביקורת וייעוץ, או להשפיע על משרות בתחום בטיחות ה-AI.

פוליטיקה ועתיד

ניווסום, שנחשב למועמד דמוקרטי פוטנציאלי לנשיאות ב-2028, מנצל את הנושא כדי לבדל את עצמו. הוא חתם על צו ראשון בנושא AI כבר ב-2023, ועכשיו הוא ממשיך להקדים את המתמודדים האחרים. מושל פנסילבניה ג'וש שפירא, גם הוא מועמד פוטנציאלי, נאם לאחרונה על צעדים מקומיים להתמודדות עם סיכוני AI.

"קליפורניה תעשה מה שהיא יכולה. אבל המדינה הזו צריכה להיכנס למשחק. וושינגטון, די.סי. צריכה לעשות את העבודה שלה", אמר ניווסום בפודקאסט שלו. המסר ברור: אם הממשלה הפדרלית לא פועלת, המדינות ייקחו את היוזמה.

בשורה התחתונה, הצו של ניווסום הוא צעד נוסף בהתגבשות הרגולציה על AI בעולם. הוא לא מחייב מיידית, אבל הוא שולח מסר חזק לחברות, לחוקרים ולפוליטיקאים. עבור קהילת ה-AI, זו עוד תזכורת שהטכנולוגיה המדהימה הזו באה עם אחריות כבדה.

אז בפעם הבאה שאתם עובדים על מודל AI, אולי כדאי שתשאלו: האם יש לו מתג כיבוי? ואל תהססו להשתמש בו אם צריך.