הסכם AI בין ארה"ב לסין: שיחות למניעת סיכונים

אחרי ש-Mythos של Anthropic הראה יכולות תקיפה סייבר חסרות תקדים, מעצמות העל בתחום ה-AI, ארה"ב וסין, מחדשות את השיחות ביניהן. זה לא סתם דיפלומטיה רגילה – זה צעד שמשקף דחיפות אמיתית למנוע סיכונים ממודלים מתקדמים.

אז מה בעצם קרה כאן? בפסגה בין הנשיאים טראמפ ושי בבייג'ינג במאי, שתי המדינות הסכימו לקיים שיחות בין-ממשלתיות חדשות על בטיחות AI. שר האוצר האמריקאי, סקוט בסנט, אמר שסין וארה"ב "יקבעו פרוטוקול" לגבי שיטות עבודה מומלצות כדי להבטיח שגורמים לא מדינתיים לא ישתלטו על מודלים מסוכנים. משרד החוץ של סין אישר את הדברים.

למה זה חשוב עכשיו? הדאגות גברו לאחר פרסום מודל Mythos באפריל, שהציג יכולות תקיפה סייבר חסרות תקדים. מומחים לשעבר, כמו ג'נט צ'ו – דיפלומטית אמריקאית לשעבר עם ניסיון רב בסין – טוענים ששיחות אלו הן קריטיות לביטחון הלאומי של ארה"ב. לדבריה, זה מאפשר "ראות לאן סין הולכת עם ה-AI, מה ההצלחות והכישלונות שלה", ומונע מצב שבו ארה"ב מנותקת ממידע חיוני על חולשות אפשריות. אתם יודעים איך זה בעולם הסייבר – ידע הוא כוח, ובמקרה הזה, ביטחון.

איך זה יעבוד בפועל? אל תצפו להסכמי שליטה בנשק בסגנון המלחמה הקרה. מומחים, כמו אנליסט התעשייה פול טריולו, אומרים שהמטרה היא ליצור "מנגנון ניהול משבר" – הגדרת קווים אדומים בתחומים כמו תקיפות סייבר מופעלות AI, ביטחון ביולוגי, הסלמה צבאית אוטונומית, ושימוש של צדדים שלישיים. אבל ציפיות צנועות יותר: השיחות יהיו תהליך של שיתוף מידע, רעיונות ומחקרים בתחום הערכת והפחתת סיכונים ממודלי AI. גישה "מקבילית", כמו שניסח מאט שיהאן מ-Carnegie Endowment, שבה כל צד חולק את הגישות והכלים שלו לבעיות ספציפיות, בלי קשר לתגובות הצד השני.

מה ידונו? רשימה ראשונית כוללת איומי סייבר התקפיים, קלות ביצירת נשק ביולוגי, כימי או גרעיני, ואתגרי אמינות כמו הזיות וקוד פגום שעלולים לגרום נזק קטסטרופלי לתשתיות קריטיות. נושאים אחרים הם פרוטוקולי בדיקה, טכניקות red teaming, אסטרטגיות alignment, ושליטה בסביבות בטוחות. אם אתם עובדים בפיתוח AI, אתם מכירים את הכלים האלה – אז דמיינו אותם ברמה בינלאומית.

ומה עם ישראל? הסיפור הזה מתרחק מהמפה המקומית שלנו – אין פה חברות או אנשי מפתח ישראלים. אבל כאנשי טק, אתם יודעים שמדיניות AI גלובלית משפיעה על הכלים שאתם משתמשים בהם, על שוק העבודה, ועל ההשקעות. זה חלק מהנוף שבו אנחנו פועלים.

בכל מקרה, לפחות מדברים – בעולם שבו מודלי AI משתנים מהר יותר ממדיניות.