בבריטניה מציעים לאסור AI שעלול לערער את סמכות המדינה
הצעת חוק פורצת דרך בבריטניה מבקשת לאסור פיתוח של AI סופר-אינטליגנטי — מערכת שמסוגלת לשלול את סמכויות המדינה. יותר מ-70 חברי פרלמנט קוראים לראש הממשלה לתמוך במהלך בינלאומי, על רקע אזהרות של עובדים ב-Anthropic וב-OpenAI על סיכון של 10% להכחדת האנושות. הממשלה הבריטית עדיין לא תומכת, אך הדיון עבר לפרלמנט.
בשבוע שעבר קם חבר הפרלמנט הבריטי אלכס סובל בבית הנבחרים והציג הצעת חוק שכביכול עושה משהו שטרם נראה: להוציא מחוץ לחוק בינה מלאכותית "סופר-אינטליגנטית". זו הצעת החוק הראשונה מסוגה בפרלמנט של מדינה החברה ב-G7, והגדרתה רחבה ומאיימת: כל מערכת AI ש"עשויה לשלול את סמכויות המדינה". המטרה המוצהרת היא לא רק לרסן את הפיתוח, אלא לדרוש מהממשלה הבריטית לפעול לקידום הסכם עולמי.
אבל רגע, זה לא נגמר שם. בתוך ימים, יותר מ-70 חברי פרלמנט ועמיתים – בהם שרים לשעבר, שמרנים, ליברל-דמוקרטים, ואפילו מנחת טלוויזיה לילדים אהובה – שלחו מכתב לראש הממשלה, אנדי ברנהאם. הבקשה שלהם חדה: תעמוד מאחורי הצעת החוק הזו ותוביל מהלך בינלאומי לאסור על יצירת AI סופר-אינטליגנטי. הם מצביעים על שבוע של אזהרות קשות מגורמים בתוך התעשייה.
למה הם כל כך מודאגים?
ובכן, קחו לדוגמה את אוון הובינגר, עובד בכיר ב-Anthropic, שאמר שהוא מאמין שיש יותר מ-10% סיכוי שהטכנולוגיה הזו תחסל את האנושות. 10%. זה לא נתון תיאורטי גרידא; זה שקול לאמירה שאחד מכל עשרה ניסויים ייגמר בסוף העולם. או קחו את ג'ייקוב קוקסון, חוקר בן 28, שעבד בעבר ב-OpenAI והתפטר השבוע, ופרסם ברשת אזהרה: הוא טען ששתי החברות "משחקות עם החיים שלנו" ותקועות במרוץ חימוש.
הצעת החוק הזו מבקשת להקים מנגנון פיקוח שינטר "מבשרים" – מערכות שעלולות להוביל ל-AI סופר-אינטליגנטי. סובל הסביר: "חברות ה-AI הבהירו שיפתחו סוכנים ללא הגבלה. הן מנסות לפתח סופר-אינטליגנציה, תוך שהן מודות בגלוי בסיכון משמעותי להכחדת האנושות."
הממשלה הבריטית, בינתיים, לא מתרשמת. דובר מטעם הממשלה אמר שהם "לא רואים את האמצעים המוצעים בהצעת החוק כגישה הנכונה", אך הוסיף שהממשלה "חוקרת התערבויות נוספות" לטיפול בסיכוני ביטחון לאומי.
למה זה צריך לעניין אתכם, עובדי ההיי-טק הישראלים?
כי אם החקיקה הזו תעבור – ולו כתמריץ למשא ומתן בינלאומי – היא תקבע תקדים. חברות AI ישראליות, שמכירות מקרוב את הלחץ הרגולטורי, יצטרכו להתחיל לשאול: מה קורה אם המערכת שלנו תיחשב "מבשר" ל-AI מסוכן? מי יפקח? ואיך מודדים "ערעור סמכות המדינה"?
בינתיים, חלק מאנשי התעשייה דווקא מגמדים את הסיכון. הם טוענים ש-AI סופר-אינטליגנטי עדיין תיאורטי, ושמגבלות (guardrails) יכולות למנוע את התרחישים הגרועים ביותר – כמו מתקפות סייבר קטסטרופליות, נשק ביולוגי חדש, או AI ששולט בנשק אוטונומי. אחרים, כמו אילון מאסק, האשימו השבוע שהאזהרות הללו הן סוג של "פסיכופ" מתוזמן.
בסופו של דבר, מה שברור הוא שהדיון יצא מתחומי מעבדות ה-AI ועבר למסדרונות השלטון. השאלה היא לא אם יהיו רגולטורים, אלא מתי – ואיזה מחיר הם ידרשו מהתעשייה לשלם.