מערכת Lavender: ה-AI שסותר את טענת רצח העם

הסרט NAZA כבש את פסטיבל ונציה עם 25 דקות של מחיאות כפיים ופרס חבר השופטים המיוחד. הסרט, בבימוי יובל אברהם ורחל סזור — הצוות שמאחורי הסרט זוכה האוסקר "No Other Land" — ובהפקת The Guardian, עם ג'ונתן Glazer כמפיק בפועל, מתבסס על עדויותיהם של 24 אנשי צבא ומודיעין ישראלים בדימוס. התזה המרכזית שלו חמורה: הרג אזרחים בעזה מתוך כוונה מפורשת, באמצעות מערכת AI בשם Lavender, שמצאה לכאורה עד 70,000 מטרות, יחד עם מנגנון "נזק אגבי" — NAZA — שקבע כמה אזרחים מותר להרוג בפגיעה. מקורות מסוימים מתארים מכסות של 15–20 אזרחים לפגיעה, ודוגמה קיצונית אחת טוענת שאושרה תקיפה עם צפי ל-500 נפגעים.

אולם דוח פרשני טוען שההיגיון הזה שגוי מיסודו. אם ישראל באמת תכננה לבצע רצח עם — לבצע טיהור שיטתי של אוכלוסייה אזרחית — למה בכלל להשקיע בפיתוח מערכת AI מתוחכמת שמנסה לבצע הבחנה מדויקת בין מטרות?

רצח עם דורש דיכוי, לא דיוק

רצח עם, היסטורית, מתבצע באמצעות כלים גסים ולא מדויקים. רואנדה, 1994: מצ'טות הרגו כ-800,000 בני טוטסי בפחות מ-100 ימים. מלחמת העולם השנייה: יחידות ה־Einsatzgruppen הנאציות רצחו למעלה ממיליון יהודים עם רובים בבורות פתוחים. הפצצות השטח בדרזדן ובטוקיו בוצעו באמצעות פצצות לא מונחות, לא אלגוריתמים, כיוון שהפגיעה באזרחים הייתה המטרה ולא תופעת לוואי.

צבא שמכוון להשמיד אוכלוסייה אינו בונה תוכנות כדי לזהות לוחמים ספציפיים בתוך דירות נקודתיות. הוא מפציץ את המפה בהפצצות שטח, כי פצצות "טיפשות" הורגות יותר אנשים, מהר יותר ובזול יותר מכל מערכת מדויקת. אם ה-IDF רצה להשיג את מה ש-NAZA טוען, בניית Lavender הייתה למעשה פעולה של חבלה עצמית — מכונה שבאה להאט ולצמצם טבח שהפצצות שטח יכלו לסיים בתוך שבריר מהזמן.

הסביבה הבלתי אפשרית של עזה

עזה, ששטחה כ-365 קמ"ר, אכלסה כ-2.1 מיליון איש לפני המלחמה. צפיפות: כ-5,900–6,000 נפש לקמ"ר — צפופה יותר מהולנד ומהודו, ברמה של סינגפור, ובין 15–20 האזורים הצפופים ביותר על פני האדמה. חמאס פועל בכוונה מתוך מבנים אזרחיים, בתי ספר, בתי חולים, מסגדים ומנהרות שמתחתיהם. בסביבה צפופה כל כך, עם אויב שפועל לטשטוש ההבחנה, אתה צריך מפה וחיל אוויר כדי להרוג אזרחים רבים, לא בינה מלאכותית. כל קצין עם קואורדינטות ופקודה יכול לייצר אובדן אזרחי מאסיבי אחר הצהריים, ללא אלגוריתם.

זה שישראל בנתה מערכות שמזהות לוחמים בודדים, משייכות הערכות נפגעים לתקיפות ספציפיות ומקיימות ויכוחים פנימיים, כפי שהסרט עצמו מדווח, בשאלה אם 15 או 20 אנשים זה יותר מדי — זו עדות למוסד שמתאמץ להבחין בתוך סביבה שאויבו תכנן אותה כדי להפוך את ההבחנה לבלתי אפשרית, לא לצבא שרצה להרוג את כולם.

Lavender: כלי מיון, לא מכונת רצח עם

הסרט עצמו חושף את המשחק. מערכת AI שמדרגת מטרות, מעריכה קרבה ללחימה ומחברת תחזית נפגעים לכל תקיפה אינה מכונת רצח עם. היא מערכת מיון, גסה ומגושמת, שנועדה להבחין בין לוחמים לאזרחים במלחמה שבה האויב סיכל את היכולת הזו. לא בונים כלי הבחנה כדי לבצע פשע בלתי מפלה. תפקיד הכלי הוא למיין לוחמים מאזרחים ולכוון רק נגד הראשונים — הפעולה ההפוכה מ"רצח עם", שלא ממיין אף אחד.

אבל הסרט עושה טריק עמוק יותר: הוא מתייחס לחישוב הנזק האגבי עצמו כאל פשע. פרופורציונליות — שקילת הנזק האזרחי הצפוי מול הצורך הצבאי — אינה המצאה ישראלית. זה התהליך החוקי הסטנדרטי שכל צבא מערבי מודרני מפעיל לפני כמעט כל תקיפה אווירית מאז שנות ה-90, בעידן נאט"ו, עם חידודים בעקבות קוסובו, עיראק, אפגניסטן וסוריה. לארצות הברית יש גרסה משלה; כך גם לבריטניה ולכל מדינה שמחויבת באמנות ז'נבה ובפרוטוקולים הנלווים להן.

מומחה למודיעין סייבר, מאטיס רוט, הסביר: "NAZA פירושו נזק אגבי — פגיעה באנשים או במבנים שלא היו מטרה מכוונת. השימוש ב-AI הזה, אם כן, בהחלט חותר או מתכוון למזער נזקים אגבים." רוט נתן דוגמה: תקיפת בניין מכיוונים שונים יכולה להוביל לתוצאות שונות. פגיעה בצד אחד עלולה להכניס מבנה אחר לאזור הפיצוץ, בעוד שתקיפה מכיוון אחר עשויה להתחשב במרחב פתוח. "כל סוגי הדברים האלה נלקחים בחשבון", אמר, באמצעות AI שמסייעת לנתח כיצד לבצע תקיפה כדי למזער נזק אגבי תוך השגת המטרה הצבאית.

הוויכוח על הספים והדיוק

המחלוקת סביב NAZA אינה באמת בשאלה אם ישראל מודדת נזק אגבי — גם הצבא וגם יוצרי הסרט מדווחים שכן. המחלוקת המהותית יותר היא מהם הגבולות של אותו נזק, עד כמה היו ההערכות מהימנות, ומה קרה כשהנפגעים האזרחיים הצפויים התקרבו לגבולות האלה.

הסרט מצטט שני מקורות שדיברו על מכסות של 15–20 אזרחים לפגיעה בחלק מהמקרים שבהם היו מעורבים לוחמים חשודים, עם דוגמה אחת שבה נטען לצפי של 500 נפגעים. ה-IDF מכחיש את הטענה הזו, וטוען שהוא בוחן כל אירוע על בסיס היתרונות הצבאיים הצפויים. אך אם יש כאן טענה, הרי היא שהספים עצמם היו גבוהים מדי בחלקים מהמלחמה, לא שהתהליך לא התקיים.

כמו כן, הדיוק של ההערכות מוטל בספק. מקורות אמרו שהערכות אוטומטיות של מספר האזרחים שנותרו במבנים הסתמכו על נתוני מגורים מלפני המלחמה, מה שעשוי לעורר סימני שאלה. אך הוויכוח הזה הוא על ביצועים, לא על הכוונה.

המסקנה היבשה

בסופו של דבר, אם ה-IDF אכן השתמש ב-AI כדי לזהות מטרות ספציפיות במסגרת ניתוח פרופורציונליות, הרי שהמערכת הזו מפריכה את הטענה לרצח עם. רצח עם לא ממיין, הוא מדכא. הדיון הציבורי על הסרט נמשך, וכנראה לא יסתיים בפסטיבל הסרטים הבא, אבל הניתוח מראה שההיגיון של ה-AI הישראלי עומד בסתירה מוחלטת לטענתו העיקרית.

בינתיים, אם לשפוט לפי הפרסים בוונציה, טענות על רצח עם מרשימות יותר מהבהירות של מערכות HUMINT מודרניות — אבל לעבודה עם מערכות כאלה, אומרים, לא צריך דיכוטומיה.