רחפן רוסי עם AI של NVIDIA הרג סטודנטית בלי מפעיל אנושי

בצהרי 6 ביולי, בעיר זפוריז'יה שבדרום אוקראינה, טטיאנה בובינץ – סטודנטית לראיית חשבון בת 19 – נמלטה יחד עם עוברי אורח כאשר הבחינה בכלי טיס הצולל מהשמיים. הרחפן פגע בקיר סמוך לתחנת דלק והתפוצץ במטר של רסיסים קטלניים, שגדע את חייה של טטיאנה ואת חייהם של שני גברים נוספים.

לכאורה, תקרית שגרתית, שכמותה התרחשו רבות אחרות במלחמה הזו. אבל מה שהפך את האירוע הזה לציון דרך מצמרר בלוחמה המודרנית לא היה מספר הקורבנות – אלא הגורם שלחץ על ההדק: זה לא היה מפעיל אנושי, אלא אלגוריתם בינה מלאכותית שפעל באוטונומיה מלאה.

מה בדיוק קרה?

בדיקה פורנזית של השרידים חשפה כי על גבי הרחפן הותקן מיני-מחשב מסחרי של NVIDIA. המפעילים הרוסים שיגרו את הכלי לעבר אזור תחנת הדלק, אבל מרגע שהגיע לשם – המערכת האוטונומית היא שבחרה לבדה את נקודת הפגיעה הספציפית, על בסיס אימון מוקדם לזיהוי מכלי פרופאן באמצעות עיבוד תמונה. הרחפן פעל ללא אנטנות שידור, ללא הנחיית רדיו מרחוק וללא כל התערבות אנושית בבחירת המטרה הסופית.

אז מה בעצם קרה כאן?

התקרית מסמנת חציית קו אדום משמעותי. עד עכשיו, השימוש בבינה מלאכותית הוגבל לשלב האחרון – נעילה על מטרה שסומנה מראש בידי אדם. הוצאת המפעיל האנושי משרשרת ההחלטה מעבירה את שיקול הדעת המוסרי והמשפטי לידי אלגוריתמים.

מכונות לומדות אינן יודעות להבחין בין תשתית אזרחית למטרה צבאית לגיטימית, ואינן מסוגלות להפעיל שיקולי מידתיות. ובהיעדר תקשורת אלחוטית – כלים אלה חסינים לחלוטין מפני לוחמה אלקטרונית ושיבוש תדרים, מה שמנטרל למעשה את אמצעי ההגנה הקיימים.

המרוץ נגד השעון

הסכנה מוחמרת בשל הנגישות: רכיבים אזרחיים זולים, הנמכרים במאות דולרים בודדים, מאפשרים ייצור המוני של נחילי נשק קטלניים. בעיר זפוריז'יה עצמה, שסובלת קשות מהפגזות חוזרות, מנסים התושבים להתגונן באמצעות רשתות מעל הכבישים ויריעות פלסטיק בזוויות משונות סביב מכלי גז – בתקווה לבלבל את מערכות זיהוי התמונה.

אלא שמפקדי ההגנה האווירית מזהירים שהרוסים ״מאמנים את הטכנולוגיה״ ומתקנים את שגיאותיה בזמן אמת. המגינים נלחמים עם פתרונות מאולתרים מול AI שמשתפר מיום ליום. הקצב שבו הטכנולוגיה הזו מתפתחת משנה את שדה הקרב מהר יותר מכפי שאפשר להגיב.