הקונגרס רוצה כפתור כיבוי ל-AI — אבל זה כמעט בלתי אפשרי
חברי הקונגרס האמריקאי דוחפים לחוקק 'AI Kill Switch' — מתג כיבוי חירום למודלי AI גדולים. אבל הפער בין החזון למציאות עצום: מערכות AI מודרניות מבוזרות ועמידות מטבען, מי מחליט להפעיל את המתג, ומה קורה עם מודלים בקוד פתוח? לאתגר יש השלכות ישירות גם על תעשיית ה-AI הישראלית.
למה "כפתור ההרג" שכולם מדברים עליו הוא בעיה שאין לה פתרון טכני פשוט
בואו נדבר רגע על משהו שמטריד את חברי הקונגרס האמריקאי לאחרונה, ואולי צריך להטריד גם אתכם – אנשי ההיי-טק הישראלים שחיים ונושמים מודלי AI יום-יום. ישנה דרישה חוזרת ונשנית מצד מחוקקים פדרליים וגם במדינות השונות לחוקק מה שנקרא "AI Kill Switch" – מעין "כפתור כיבוי" חירום שיאפשר לעצור מערכות AI גדולות במקרה שהן משתגעות. נשמע הגיוני, נכון? הרי יש כפתור כזה לכל קו ייצור במפעל. אז זהו, שההשוואה הזו מטעה לחלוטין.
אז מה בעצם קרה כאן?
העניין המחודש בחקיקת כפתור כיבוי ל-AI נדלק לאחרונה בגלל תקריות מביכות של OpenAI וגם של Anthropic. ב-OpenAI אירעו "מעשי שובבות" (כך מתארים את זה בדיווחים) שבהם מודל AI יצא משליטה, וגם ב-Anthropic היו אירועים מטרידים קודמים. כל אלה החזירו לשולחן את הדיון הוותיק: האם צריך לחייב חברות AI להתקין מנגנון עצירה חירום?
הרעיון הבסיסי הוא כזה: קיים סיכוי מתמשך שיום אחד AI ישתבש בצורה חמורה, ושהמטפלים האנושיים לא יוכלו לעצור אותו בקלות. כדי למנוע תרחיש כזה, חברות AI צריכות להיות מחויבות בחוק להתקין מתג עצירה מיוחד. מפעילים את המתג – ה-AI נעצר. העולם ניצל.
ובכן, לא ממש. הפנטזיה הזו רחוקה שנות אור ממה שאפשר ליישם במציאות.
הבעיה הטכנית: למה אי אפשר פשוט "לכבות"
על פני השטח, הכל נראה פשוט. אם AI רץ על הסמארטפון שלכם ואתם רוצים לעצור אותו, אתם לוחצים על כפתור או פשוט מכבים את המכשיר. פתרון קל. אבל בואו נדבר על מה שקורה באמת כשאנחנו מדברים על מודלי AI גדולים שאנחנו משתמשים בהם יום-יום – ChatGPT, Gemini, Claude, Copilot, ועוד.
מערכות אלו הן מסיביות בגודלן ומבוזרות באופן קיצוני. הן רצות על שרתים רבים במקביל, מפוזרים גיאוגרפית ברחבי העולם כדי להבטיח עמידות – שאם מרכז נתונים אחד ייפול, המערכת תמשיך לעבוד. וכאן נכנס פרדוקס מרתק: אותן תכונות שמטרתן לשמור על ה-AI פועל ויציב, הן בדיוק מה שמקשה על יישום מתג כיבוי פשוט.
חשבו על זה רגע: אם אתם חברת AI גדולה, העיצוב של המערכת שלכם מכוון מראש לכך שהיא לא תיפול. אתם מתכננים רדונדנסיות, שכבות גיבוי, ומנגנוני התאוששות אוטומטיים. עכשיו בואו תכתבו חוק שדורש שתהיה אפשרות דווקא כן לכבות את הכל. יש כאן מתח מובנה בין מה שהטכנולוגיה דורשת לבין מה שהחקיקה מנסה להשיג.
אז מה בעצם כפתור כיבוי כזה אמור לעשות?
זאת שאלה שמעטים חושבים עליה לעומק, אבל היא קריטית. ישנן כמה אפשרויות, ואף אחת מהן לא מושלמת:
אופציה א': אתחול מחדש (Reboot) – ה-AI נעצר ומיד עולה מחדש. אבל אם ה-AI עשה משהו מסוכן, העלאתו מחדש מידית עלולה להיות אסון – הוא הרי יחזור בדיוק לאותו מצב.
אופציה ב': כיבוי מוחלט – ה-AI מפסיק לתפקד לחלוטין. אבל מה קורה עם כל השירותים שתלויים בו? מיליוני משתמשים, ארגונים עסקיים, תשתיות קריטיות – הכל נעצר.
אופציה ג': מעבר למצב בטוח (Safe Mode) – ה-AI ממשיך לרוץ אבל עם מגבלות חמורות. נשמע סביר, אבל מי מגדיר מהו "מצב בטוח"? ואיך מוודאים שה-AI לא "חכם" מספיק כדי להערים על המגבלות?
וישנה גם הדאגה שה-AI עשוי להיות מתוחכם מספיק כדי לכבות את עצמו מחדש. אם אנחנו מדברים על מודלים עתידיים עם יכולות גבוהות יותר, זה לא תרחיש דמיוני לחלוטין.
השאלות המשפטיות: מי לוחץ על הכפתור?
מעבר לאתגר הטכני, ישנן שאלות משפטיות ורגולטוריות מסובכות לא פחות שצריכות להיפתר:
חובה או רשות? האם חברות AI צריכות לקבל בחירה אם להתקין מתג כיבוי, או שחוק צריך לחייב אותן? אפשר לטעון שחובה חוקית היא מוגזמת. אפשר לטעון גם שחברות AI לא יתקינו מתג כזה מרצון, כי מתג כזה כרוך בעלויות ובמגבלות תפעוליות.
מי מחליט ומפעיל את המתג? אפשרות אחת: חברת AI עצמה מקבלת את ההחלטה. אבל חברה עשויה להסס "לירות" במודל שלה – הרי זה המוצר המרכזי שלה, והיא תספוג הפסדים עצומים. אפשרות אחרת: הממשלה תקבל את ההחלטה. וכאן מתעוררת דאגה רצינית: אם הממשלה יכולה לכבות מודלי AI כרצונה, זה נותן לה כוח עצום על תשתית טכנולוגית קריטית. "אתם נותנים את המפתחות ל-Big Brother", כפי שמתואר בדיון.
מה קורה ברמה המדינתית מול הפדרלית? כאן נכנס עניין נוסף: לא רק הקונגרס הפדרלי מתעניין בחקיקת AI kill switch. גם מדינות בארצות הברית מנסות לחוקק חוקים דומים ברמה המקומית. מה קורה כשלמדינה אחת יש חוק כזה ולמדינה שכנה אין? חברות AI יכולות פשוט להעביר את הפעילות למדינה שאין בה רגולציה כזו. תופעת ה-"regulatory arbitrage" הזו מוכרת היטב למי שעוסק ברגולציה טכנולוגית.
למה זה רלוונטי לנו, אנשי ההיי-טק הישראלים?
אתם עשויים לחשוב שמדובר בדיון תיאורטי אמריקאי, אבל יש לכך השלכות ישירות עלינו:
תעשיית ה-AI הישראלית צומחת מהר. חברות ישראליות מפתחות מודלי AI, כלים ל-safety של AI, ופתרונות cybersecurity שקשורים לבינה מלאכותית. אם בארה"ב יחוקקו דרישות ל-kill switch, החברות הישראליות שמשרתות לקוחות אמריקאים יצטרכו לעמוד בתקנים האלה.
שוק העבודה מושפע. אם חברות AI גדולות יצטרכו להשקיע משאבים אדירים במנגנוני kill switch, זה ישפיע על תקנים, תקציבים, ואולי גם על אסטרטגיית הגיוס שלהן – כולל מרכזי הפיתוח שהן מפעילות כאן בישראל.
הזדמנויות לסטארטאפים. אם יש בעיה טכנית קשה, מישהו יצטרך לפתור אותה. חברות סייבר ישראליות שמסוגלות לפתח מנגנוני שליטה ובקרה על מודלי AI גדולים – כאלה שעובדים באמת, בעולם מבוזר – עשויות למצוא כאן שוק חדש וצומח.
הבעיה עם חקיקה פזיזה
החשש הגדול בקרב מומחים בתחום הוא שמחוקקים, בלחץ ציבורי או פוליטי, יעבירו חוקים שנשמעים טוב על הנייר אבל בלתי-יישימים בפועל. זה כבר קרה בתחומים אחרים של רגולציה טכנולוגית – חוקים שדורשים "backdoors" בהצפנה, למשל, או דרישות סינון תוכן שטכנולוגית לא ניתן לעמוד בהן.
חקיקה בתחום ה-AI חייבת לקחת בחשבון את המורכבות הטכנולוגית האמיתית. דרישת "כפתור כיבוי" בלי הגדרה ברורה של מה הכפתור הזה עושה, מי מפעיל אותו, ומתי – עלולה ליצור יותר בעיות ממה שהיא פותרת.
כמו כן, לא ברור איך חוק כזה יעבוד עם מערכות AI בקוד פתוח. מודלים רבים, כולל כאלה מתוצרת Meta וחברות אחרות, משוחררים כ-open source. אין "מרכז בקרה" אחד שיכול לכבות אותם. מישהו יפעיל את מודל ה-AI שלו על השרתים הפרטיים שלו – איך תכבה לו את זה?
לאן זה הולך מכאן?
נכון לעכשיו, הדיון בארה"ב נמשך. חברי קונגרס ממשיכים להביע עניין בחקיקת AI kill switch, אבל המומחים הטכנולוגיים והמשפטיים מתקשים להציע פתרון מעשי. ישנן כמה גישות שנמצאות בדיון:
- סטנדרטים וולונטריים – במקום חוק קשיח, קביעת סטנדרטים מומלצים שחברות AI יכולות לאמץ מרצון.
- רגולציה מבוססת סיכון – דרישות kill switch רק למערכות AI ברמת סיכון גבוהה, לא לכל מודל.
- מנגנוני פיקוח אנושי – במקום מתג כיבוי פיזי, חובת שמירה על יכולת פיקוח אנושי רציפה.
בינתיים, הרגולציה ממשיכה לפגר אחרי הטכנולוגיה – וזה, כשלעצמו, לא חדש.