Ro Khanna מציע הסכם בטיחות AI בין ארה״ב לסין
חבר הקונגרס Ro Khanna מציע הסכם AI מחייב בין ארה״ב לסין, הכולל הפסקה של שיפור עצמי רקורסיבי ובדיקות בינלאומיות. בנוסף, הוא מקדם את הצעת החוק Human Control Over AI Act, שתאסור על מודלים כאלה עד שיהיו הגנות פדרליות. המהלך מגיע בזמן שדונלד טראמפ ושי ג׳ינפינג לא מצליחים להסכים על רגולציה, ועל רקע ספקנות בנוגע לאמון בסין ותגובות צוננות מצד הממשל.
בזמן שמנהיגי העולם מתקשים להסכים על רגולציית AI, חבר קונגרס אמריקני מציע פתרון בינלאומי: הסכם מחייב בין ארה״ב לסין.
Ro Khanna, חבר קונגרס דמוקרטי מקליפורניה וחבר ותיק בוועדה לענייני סין בקונגרס, שלח מכתב לשר החוץ Marco Rubio, ובו הציג חזון חדש לניהול סיכוני ה-AI. במכתב הוא מציע הסכם מחייב בין שתי המעצמות, הכולל חמישה סעיפים מרכזיים.
מה מציע ההסכם?
הסעיף הראשון קורא להפסקה עולמית של שיפור עצמי רקורסיבי (recursive self-improvement) – תהליך שבו מודלי AI בונים, בודקים ומשפרים את עצמם. השני מבקש הפסקה נפרדת של פיתוח בינה מלאכותית סופר-אינטליגנטית. בנוסף, Ro Khanna מציע פרוטוקולים ל״מתגי השבתה״ (kill switches) בכל מודל AI מתקדם, ודרישה שכל חברה בתחום תערוך ביקורות למודלים לפני שחרורם לשוק.
כדי לאכוף את ההסכם, Ro Khanna ממליץ על סוכנות בדיקה בינלאומית או ארגון לא-ממשלתי שיוכל ״לעורר אמון משני הצדדים״. לדבריו, ״בדיוק כמו שארה״ב וברית המועצות שמו בצד הבדלים עצומים כדי להציל את העולם ממלחמה גרעינית, ארה״ב וסין חולקות אינטרס משותף להבטיח שהאנושות לעולם לא תאבד שליטה על ה-AI״.
הצעת החוק החדשה: Human Control Over AI Act
במקביל להסכם הבינלאומי, Ro Khanna מקדם הצעת חוק פדרלית חדשה בשם Human Control Over AI Act. ההצעה כוללת איסור על מודלים שמשפרים את עצמם באופן רקורסיבי או משנים באופן אוטונומי את מטרות הליבה שלהם, עד ליצירת הגנות פדרליות ולאישור הפעילות בידי סוכנות פדרלית.
הצעת החוק גם מציעה להקים סוכנות פדרלית חדשה שתפקח על מודלים של OpenAI, Anthropic, Google DeepMind ו-xAI. הסוכנות תהיה אחראית על יצירת תקנות בטיחות, על מערכת רישוי לאימון ולהטמעה של מודלים, על ביקורות למודלים מתקדמים ועל קביעת סטנדרטים לאבטחה ולבקרה אנושית מתמשכת.
ההקשר הפוליטי ותגובת הממשל
המכתב של Ro Khanna מגיע לאחר פגישה בין הנשיא דונלד טראמפ לנשיא סין שי ג׳ינפינג, שבה לא הושגה התקדמות משמעותית בנושא ה-AI. Ro Khanna מתח ביקורת על כך ש״טראמפ ושי ג׳ינפינג לא מזהים את הסיכון והדחיפות״, וציין שהדיאלוג ביניהם ״אינו מספיק״.
ממשל טראמפ, לעומת זאת, מגלה עניין מועט ברגולציה. Ro Khanna ציין שפגישה מתוכננת בין הבית הלבן, יו״ר בית הנבחרים Mike Johnson ומנכ״לים של חברות טכנולוגיה היא ״מאמץ לנחם את האמריקנים שחברות הטכנולוגיה יהיו אחראיות, אבל למה שנסמוך על חברות שיש להן מניע למקסם רווחים כדי לקבוע כללים לבטיחות?״
ספקנות ומשמעויות
הצעת החוק וההסכם מעוררים ספקנות, במיוחד בנוגע לאמון בסין. חברי קונגרס רפובליקנים מטילים ספק בכך שסין תשמור על חלקה בהסכם. Ro Khanna מכיר בכך שהסכם מיידי אינו סביר, ולכן הוא מציע קבוצת עבודה עם מומחים משתי המדינות כדי להציע המלצות בטיחות.
עבור קהילת ההייטק הישראלית, ההצעה הזו מדגישה שה-AI אינו רק מנוע צמיחה עסקי, אלא גם אתגר בטיחותי עולמי שדורש שיתוף פעולה בינלאומי. חברות AI ישראליות, שפועלות בשוק גלובלי, עשויות להיות מושפעות מרגולציות חדשות כאלה.
מה הלאה?
בינתיים, ה-AI ממשיך להתקדם בקצב מהיר. אם ההסכם של Ro Khanna יאושר, זה עשוי לשנות את כללי המשחק ולמנוע תרחישים מסוכנים. אבל עם התנגדות מצד הממשל הנוכחי וספקנות בינלאומית, הדרך להסכם מחייב עדיין ארוכה. עד אז, נראה שה-AI ממשיך להשתפר – עם או בלי פיקוח בינלאומי.