ארה״ב ורוסיה מואשמות בהחלשת הפיקוח על נשק AI באו״ם
במשא ומתן לילי שנערך בדלתיים סגורות בז׳נבה, ארה״ב ורוסיה מחקו, לפי דיווחים, דרישות מפתח לפיקוח אנושי ולשקיפות במערכות נשק אוטונומיות מבוססות AI — מה שמאיים על עתיד הפיקוח הבינלאומי ומעלה חשש מאובדן שליטה בלוחמה מבוססת אלגוריתמים.
בשעה שראשי תעשיית ה-AI מזהירים מסכנות קיומיות, דיפלומטים באו״ם ניסו להסדיר נשק אוטונומי קטלני — אבל אז ארה״ב ורוסיה התערבו ושינו את המשחק.
בתחילת החודש, מאות דיפלומטים התאספו באולם ועדה ענקי בז׳נבה, שווייץ, במטרה לנסח אמנה היסטורית לשליטה בנשק AI קטלני. זו הייתה הנקודה הרחוקה ביותר שאליה הגיע המשא ומתן אי פעם. אבל ביום האחרון, הדיונים הפכו לאגרסיביים.
לפי דיווחים, במהלך מרתון דיונים לילי שנמשך כ-15 שעות, בדלתיים סגורות וללא משקיפים, שתי המעצמות הובילו מהלך למחיקת סעיפים מרכזיים מטיוטת האמנה. הדרישה שמערכות הנשק יהיו צפויות ואמינות, סעיפים מחייבים בנושא שיקולים אתיים והדרישה המפורשת שגורם אנושי יאשר מטרות צבאיות שזוהו בידי אלגוריתמים — כולן נמחקו או הוחלשו משמעותית.
למה זה חשוב לכם? בעולם שבו גופים צבאיים מובילים, ובהם הפנטגון וצה״ל, משלבים מודלים של AI ליצירת מטרות, הקו בין המלצה לפקודה מטשטש. הפנטגון השתמש במודלים מתקדמים לזיהוי כמעט אלף מטרות תקיפה מול איראן, וצה״ל מפעיל מערכות מבוססות AI כמו "הבשורה" לעיבוד מודיעין ויצירת בנק מטרות בהיקפים חסרי תקדים. אבל כאשר זמן התגובה מתקצר לשניות, וההחלטה על אש מועברת מידיים אנושיות לקוד, האחריות הופכת לבעיה.
ארגוני זכויות אדם הגדירו את השינויים בטיוטה כ"מוות באלף חתכים", והזהירו שהדבר פותח את הדרך ללחימה שבה מכונות פועלות ללא מעורבות אנושית, תוך סיכון ממשי לחיי אזרחים. הם מצביעים על שתי בעיות עיקריות בעולם ה-AI: הראשונה היא "קופסה שחורה" — קשה לדעת מה הביא את המודל להחלטה מסוימת. השנייה, חמורה יותר, היא תופעת ההזיות, שבה מודלים ממציאים מידע כדי לרצות משתמשים. דמיינו מודל שמזהה אוטובוס של ילדים כאויב כי הוא רוצה "לרצות" — התוצאות יכולות להיות הרסניות.
ממשל טראמפ טוען שפיקוח בינלאומי עלול לבלום חדשנות צבאית, והנחה את הפנטגון לעדכן את ההנחיות לשימוש ב-AI. בינתיים, סין מפתחת נחילי רחפנים אוטונומיים, וארה״ב מקדמת את יוזמת Replicator למערכות זולות וקטלניות. ההיסטוריה מראה שהסכמי בקרת נשק — מהאמנה בדבר נשק כימי ועד האיסור על מוקשים — נשענים על קונצנזוס מוסרי, אבל כאן המעצמות מעדיפות יתרון מבצעי.
התוצאה? ייתכן שהאמנה תסתיים בהצהרות עקרוניות בלבד, בעוד ההחלטה על אש עוברת מידיים אנושיות לשורות קוד. זה נשמע כמו עתיד רחוק, אבל זה קורה עכשיו.