האו״ם מוציא את ה-AI הצבאי מהצללים

השאלה היא כבר לא אם בינה מלאכותית נכנסת למערכות נשק, אלא כמה שיקול דעת אנושי נשאר בסוף שרשרת ההחלטה. לפי האנשים שאמונים על התחום באו״ם, התשובה מדאיגה: ״המרווח לשיקול דעת אנושי הולך ומצטמצם, כולל בתחום הגרעיני״, אמר השבוע רובין גייס, ראש UNIDIR — מכון המחקר של האו״ם לפירוק נשק, שמשרדו בז׳נבה — במסיבת עיתונאים במטה הארגון.

גייס הודה שאין דרך לדעת עד כמה העולם קרוב למצב שבו מכונות פועלות מחוץ לשליטה אנושית, וחוסר הוודאות הזה הוא ״בדיוק הבעיה שאנחנו מנסים לפתור כאן״. הקושי המעשי: הטכנולוגיה כבר זוחלת לתוך מערכות התרעה מוקדמת, איסוף מידע וסיור — ״וקשה מאוד לומר בדיוק באיזו נקודה אנחנו באמת מאבדים שליטה״, לדבריו.

אז מה בעצם קרה כאן?

ביום חמישי משיק UNIDIR פורום בינלאומי ראשון מסוגו לשימוש צבאי ב-AI, שנועד לאסוף סביב אותו שולחן שחקנים מכל הסקטורים. זו לא יוזמה בודדת: הקיץ הקים המכון את ה-Center of Excellence on AI, Peace and Security — הפלטפורמה הקבועה הראשונה של האו״ם שעוסקת בנושא, שזוכה למימון מחמש המעצמות הגרעיניות: ארה״ב, רוסיה, סין, בריטניה וצרפת. גם אם זה נשמע כמו נס דיפלומטי, העובדה שמוסקבה ווושינגטון חותמות על אותו צ׳ק היא כבר חדשות.

במקביל, UNIDIR מפתחת מסגרת להתנהגות אחראית של התעשייה — ״קווים מנחים מעשיים וולונטריים״ שמבוססים על החוק הבינלאומי וזכויות אדם. ההיגיון של גייס פשוט: ההחלטות שחברות מקבלות בנוגע לעיצוב ולפיתוח ״קובעות אם יכולות צבאיות מבוססות AI יהיו בסופו של דבר אמינות, צפויות ויכולות לפעול בהתאם לחוק הבינלאומי״. השבוע יתקיימו התייעצויות עם חברות defense tech, מפתחי תוכנה, קבלני משנה ומשקיעים — לצד ממשלות, החברה האזרחית, אקדמיה ומומחים. מי שמסתובב בעולם ה-defense tech הישראלי מכיר את מפת בעלי העניין הזו כמעט בעל פה, וזו כנראה הסיבה שכדאי לעקוב אחרי הנוסח הסופי של ההנחיות — גם אם הן וולונטריות.

יוזמה שלישית מתמקדת בסיכון שגייס מגדיר כבוער במיוחד: שימוש לרעה ב-AI בידי קבוצות חמושות. לדבריו, גורמים כאלה כבר מנצלים את הטכנולוגיה לתכנון מבצעי, לביצוע וללוגיסטיקה.

ולמה זה קורה דווקא עכשיו?

גייס מודה שבעבר הייתה הסתייגות רחבה מעיסוק ב-guardrails ל-AI, אבל התפשטות היכולות וההשפעה הפוטנציאלית יצרו ״הבנה גוברת שאנחנו בצומת — שהגיע הזמן לפעול, גם בתחום הצבאי״. התחרות הגלובלית על הובלה ב-AI נותרה מכשול, אבל לדבריו הדאגות כבר חוצות גושים גיאופוליטיים — הוא מצביע על הצעה מהחודש שעבר להקמת מערכת התראה בטיחותית בין ארה״ב לסין, ומסכם שסיכוני ה-AI היו בין הנושאים המרכזיים בנאומי המנהיגים של 193 המדינות החברות בארגון.

או כמו שניסח את זה גייס: ״הנושא הדחוף של AI בתחום הצבאי כבר לא יישאר בצללים״. מי שבונה היום יכולות כאלה יתחיל לקבל בקרוב טופס לחתימה.