ארה"ב וסין פותחות דיאלוג חדש על בטיחות AI

תפסו אתכם לא מוכנים? בעולם שבו ארה"ב וסין מנהלות מלחמה טכנולוגית עזה, במיוחד בתחום ה-AI, הנה מהלך מפתיע: שתי המדינות הסכימו על הקמת דיאלוג חדש בנושא בטיחות בינה מלאכותית. זה קרה אחרי פסגת טראמפ-שי בבייג'ין במאי, ובעקבות לחץ הולך וגובר מיכולות שיא שראינו במודלים כמו ה-Mythos של Anthropic.

למה עכשיו? הסיבה לחשש האמריקאי

הסיבה הדחופה להקמת הערוץ הזה היא יכולות הסייבר-תקיפה חסרות התקדים שהציג מודל ה-Mythos של Anthropic. "אנחנו צריכים להמשיך לדבר, כי ככה אנחנו מקבלים ראות לאן סין הולכת עם ה-AI, איך הם עושים את זה, מהן ההצלחות והכישלונות שלהם", אמרה ג'נט צ'ו, דיפלומטית אמריקאית ותיקה, בכנס של ה-Asia Society בסן פרנסיסקו.

היא הוסיפה שאלה רטורית כואבת: "אתם רוצים להיות מנותקים ממה שהם עושים... כדי לנתק את עצמכם מהיכולת... להבין את החולשות שלהם, שלא נדבר על לנצל אותן?". במילים אחרות, גם בתקופה של עוינות, האמריקאים מעדיפים לראות את מה שהיריב עושה מאשר להיות עיוורים. שר האוצר האמריקאי, סקוט בסנט, הגדיר את השיחות כ"דיונים בריאים" וציין שהן נועדו "להגדיר פרוטוקול" לגבי שיטות עבודה מומלצות, כדי "להבטיח שלגורמים לא-מדינתיים לא תהיה גישה למודלים האלה".

מה התוכן הצפוי בשיחות? תיאום ציפיות ראשוני

לפי מומחים מהמכון ברוקינגס, הציפיות צריכות להיות צנועות. בשלב ראשון, המטרה היא לא הסכם פורמלי או אמנת הגבלה, אלא בניית "מנגנון לניהול משברים" ובניית אמון. הדיונים יתמקדו בהבנה משותפת של סיכונים – כמו איומי סייבר התקפיים, קלות פיתוח נשק ביולוגי או כימי, ואמינות מודלים – ובחילופי שיטות עבודה מומלצות כמו Red Teaming, פרוטוקולי בדיקה, ואסטרטגיות מיתון סיכונים.

"השיחות האלה לא יהיו על בקרת נשק", מבהיר אנליסט התעשייה פול טריולו. "אלא על הגדרת קווי אדום סביב פעילות סייבר המבוססת על AI, ביטחון ביולוגי, הסלמה צבאית אוטונומית, גניבת מודלים ושימוש של צדדים שלישיים". הרעיון הוא שיתוף "מקביל" של פרקטיקות, שבו כל צד פועל מתוך עניין פנימי, לא מתוך הסכם הדדי.

המתיחות לא נעלמה: הובלה אמריקאית מול "זיקוק" סיני

בתוך הדיבור על שיתוף פעולה, התמונה הגדולה יותר עדיין מתוחה. בכיר ב-Anthropic, טרונ צ'אברה, טוען שארה"ב מחזיקה בהובלה של שישה עד תשעה חודשים במודלי AI חלוציים, אך מאשים חברות סיניות ב"זיקוק" (Distillation) בלתי מורשה של המודלים האמריקאיים. "אנחנו סוגרים מיליוני חשבונות בשבוע שמקלים על הזיקוק הזה", הוא אמר בפורום אספן לביטחון.

גורם רשמי בממשל האמריקאי, ג'ייקוב הלברג, המוביל את יוזמת "Pax Silica" להדרת סין משרשראות אספקת AI, הגן על ההגבלות החדשות על גישה למודלים של Anthropic. "אנחנו לא רוצים מתקפות סייבר על תשתית קריטית", הוא אמר, והבהיר שהתהליך נועד לאפשר שחרור בטוח של הטכנולוגיה.

מה זה אומר עלינו? שוק ה-AI מתבגר

מבחינת תעשיית ה-AI העולמית, כולל כאן בארץ, המהלך הזה מסמן את מרכז הכובד של הדיון: בטיחות מודלים והגנה מפני שימוש לרעה. אנחנו רואים שני כיוונים מתפתחים במקביל. מחד, יש מאמצים דיפלומטיים בין-מדינתיים לנהל את הסיכונים ברמה האסטרטגית. מאידך, חברות כמו Anthropic מובילות קו של רגולציה מחמירה יותר ויותר ברמה המדינתית בארה"ב, ודורשות בדיקות צד שלישי, ביקורות ופיקוח אקטיבי מעבר לשקיפות.

השיחות בין ארה"ב וסין עשויות, אם יצלחו, ליצור תקן גלובלי דה-פקטו לפרקטיקות בטיחות AI. זה ישפיע על כל מי שמשתמש, מפתח או מטמיע מודלים מתקדמים – כולל סטארטאפים ישראלים שפועלים בשוק הגלובלי. בסופו של דבר, בין אם מדובר בדיאלוג בין מעצמות או בחקיקה במדינות בארה"ב, המסר ברור: עידן ה-AI הפרוע עובר, וכולם, מסין ועד עמק הסיליקון, מתחילים להבין שצריך לשים גבולות.