אלכס סובל מציע לאסור AI שיכול לעקוף את המדינה
הצעת החוק בבריטניה, שנוסחה על ידי חבר הפרלמנט אלכס סובל, מנסה לאסור AI שיכול לבטל סמכויות מדינה. המהלך מגיע בעקבות אזהרות ממדענים ב-Anthropic וב-OpenAI על סיכוי של יותר מ-10% להכחדת האנושות, ויותר מ-70 חברי פרלמנט קוראים לראש הממשלה לתמוך באיסור בינלאומי.
דמיינו שאתם עובדים על מודל AI, ומדען בכיר בחברה שלכם מעריך שיש סיכוי של יותר מ-10% שהטכנולוגיה הזו עלולה להכחיד את האנושות. זה בדיוק מה שקרה השבוע – אוון הובינגר, חוקר ב-Anthropic, פרסם אזהרה כזו, והתפטרותו של ג׳ייקוב קוקסון מ-OpenAI, שטען ששתי החברות ״משחקות עם החיים שלנו״, יצרה גל של דחיפות פוליטית בבריטניה.
הצעת החוק הראשונה מסוגה ב-G7
ביום שלישי, חבר הפרלמנט אלכס סובל עמד בבית הנבחרים הבריטי והציע הצעת חוק היסטורית: הראשונה בפרלמנט של מדינת G7 שמטרתה לאסור פיתוח של בינה מלאכותית סופר-אינטליגנטית (ASI). ההצעה מגדירה ASI כמערכת שיכולה ״להתגבר על סמכויות המדינה״ – במילים אחרות, AI שמסוגל לערער על היכולת של ממשלה לשלוט. ההצעה גם מבקשת להעניק לממשלה סמכויות חדשות לנטר ולהגביל מערכות שעשויות לבשר על סופר-אינטליגנציה.
יותר מ-70 חברי פרלמנט דורשים פעולה בינלאומית
המהלך לא קורה בוואקום. יותר מ-70 חברי פרלמנט וחברי בית הלורדים – כולל 15 שרים לשעבר, ראש השירות האזרחי לשעבר ונציגים מהלייבור, השמרנים, הליברל-דמוקרטים והמפלגה הלאומית הסקוטית – כתבו לראש הממשלה אנדי ברנהאם. הם קוראים לו ״להעמיד את מלוא משקל הממשלה״ מאחורי הצעת החוק וליזום איסור בינלאומי. הם מבקשים מברנהאם להשתמש בנשיאות הקרובה של בריטניה ב-G20 ב-2027 כדי ליצור ״קואליציה של מוכנים״ נגד האיום. ״הצעת חוק לאומית לא פותרת את הבעיה הבינלאומית שבה סופר-אינטליגנציה יכולה להתפתח במקום אחר״, אומר אנדריאה מיאוטי, מייסד ControlAI, קבוצת קמפיין שסייעה לנסח את ההצעה.
אזהרות פנימיות: ״מרוץ ללא אחריות״
ההצעה מגיעה על רקע אזהרות מגורמים בתוך תעשיית ה-AI. ג׳ייקוב קוקסון, חוקר בן 28 שעבד ב-Anthropic ולפני כן ב-OpenAI, התפטר ביום שלישי עם אזהרה שהפכה לוויראלית. הוא האשים ששתי החברות – Anthropic ו-OpenAI – ״לא פעלו באחריות״, שהן ״מהמרות על החיים שלנו״ ושנעולות במרוץ להשגת AI עליון. הובינגר, חוקר בכיר ב-Anthropic, אמר שהוא מאמין שיש ״סיכוי של יותר מ-10%״ שהטכנולוגיה ״תכחיד את כל בני האדם״ בעשור הקרוב.
תמיכה של מומחים, ביקורת של הממשלה
הצעת החוק זוכה לגיבוי מפרופסור מוביל ל-AI מאוניברסיטת Berkeley, סטיוארט ראסל, ומביאטריס פין, זוכת פרס נובל על פעילותה נגד הפצת נשק. היא גם מגובה ב-ControlAI, קבוצת לובי טרנס-אטלנטית שנוסדה על ידי יאן טאלין, ממייסדי Skype, שמתאר את עצמו כ״אנטי-הכחדה״. בארצות הברית, חקיקה דומה מקודמת על ידי ברני סאנדרס, שאמר השבוע: ״צריך להיות מטומטם כדי לא לומר שצריך להאט את זה״.
אולם ממשלת בריטניה אינה ממהרת לאמץ את הגישה. דובר קבינט אמר שהממשלה ״לא מחשיבה את הצעדים שבהצעת החוק כגישה הנכונה״, אך הוסיף שהם ״חוקרים התערבויות ממוקדות נוספות״ להתמודדות עם סיכוני AI לאומיים משמעותיים. הממשלה דחתה לאחרונה את רעיון ״מתג ההריגה״ – מנגנון חוקי שיאפשר לכבות מודל AI מסוכן – בטענה ש״אי אפשר פשוט לכבות AI״, וכי חסימה בבריטניה לא תמנע פיתוח או שימוש לרעה במקומות אחרים. דניאל קוקוטג׳לו, חוקר לשעבר ב-OpenAI, הסכים: ״להפסיק את הגישה למודל AI במקרה חירום בקושי יגן עליך. הסופר-אינטליגנציה שפותחה בארצות הברית עדיין תדרוס אותך״.
מה עומד על הכף?
ההצעה מבקשת לסלול את הדרך לאמנה בינלאומית, בדומה לחוקים בקונגרס האמריקני. מומחים מזהירים שהסיכונים אינם תיאורטיים: AI יכול לאפשר התקפות סייבר קוטסטרופליות, ליצור סכנות ביולוגיות חדשות או להשתלט על מערכות אוטונומיות. אחרים טוענים ש-ASI עדיין תיאורטי וששמירה על גבולות (guardrails) יכולה למנוע את התרחישים הגרועים ביותר.
בינתיים, חברות ה-AI ממשיכות במרוץ הפיתוח – אולי בתקווה שה־guardrails יספיקו, או אולי פשוט כי אי אפשר לעצור מנוע שנוסע במורד. ההצעה הזו היא ניסיון למשוך בבלם החירום, לפני שהכביש נגמר.