לאו הרביעי קורא לאסור נשק אוטונומי קטלני

רגע, מה? האפיפיור נכנס לעולמות ה-AI והטילים? אז כן, Pope Leo XIV פרסם ביום שישי הודעה חריפה שבה הוא קורא להגביל את השימוש ב-AI בהיבטים מסוכנים, ומתמקד בנשק אוטונומי. אם אתם עובדים בתעשייה, אתם יודעים שהדיון הזה מתחמם — וממנהיג דתי, זה מעניין.

מה הוא באמת אמר?

בראש ובראשונה, לאו הרביעי טוען שמערכות AI הן כלים, לא אנשים. הוא ציטט מתוך האנציקליקה שלו ממאי 2026, שבה הובהר שמערכות AI ״אינן חוות חוויות, אינן מרגישות שמחה או כאב, ואינן מתבגרות דרך קשרים״. אז אם שמעתם לאחרונה על סטארטאפים שמבטיחים ״מודעות״ ל-AI — הוא לא קונה את זה.

הדגש המרכזי שלו הוא על החלטות גורליות: ״החלטות המשפיעות על חיי אדם, חירות ושימוש בכוח חייבות תמיד להישאר תחת פיקוח אנושי יעיל, מודע ואחראי״, אמר. הוא ציין בפירוש מערכות שמנסות ליצור רשימות מטרות לתקיפות אוויריות באמצעות מל״טים, מערכות לניטור גבולות וכמובן — נשק אוטונומי קטלני.

״נטרל את ה-AI״ — למה הכוונה?

הוא לא מתנגד ל-AI באופן גורף, אלא מתעקש שצריך להגביל את השימוש בו בהיבטים מסוכנים. הקריאה שלו מגיעה לקראת שיחות בז'נבה בנובמבר, שבהן המדינות החברות באו״ם ידונו באיסור על מערכות נשק אוטונומיות. זוכרים את ההצהרה של מזכ״ל האו״ם António Guterres ושל ראש ה-International Committee of the Red Cross? הם הזהירו שאנחנו ״קרובים באופן מסוכן לחצות קו מוסרי: מיקוד אוטונומי של בני אדם על ידי מכונות״. לאו הרביעי מחזק את המסר הזה.

קשר לתעשייה: מ-Anthropic ועד Trump

בינתיים, בעולם ה-AI, יש רעשים דומים. חוקר לשעבר ב-Anthropic, Jacob Coxon, שעבד גם ב-OpenAI, התפטר בספטמבר והאשים את החברות במירוץ ל״סופר-אינטליגנציה שמשפרת את עצמה ולהימור על חיינו״. גם Sam Altman, מנכ״ל OpenAI, הזהיר שה-AI יכול להשתבש אם נאבד שליטה.

לצד זאת, הנשיא Donald Trump הוציא צו מנהלי בספטמבר שמחליף את המונח ״artificial intelligence״ ב-״super intelligence״ במסמכים רשמיים — מהלך שמשקף אופטימיות, בניגוד לאזהרות של לאו הרביעי.

מה זה אומר לנו?

כעובדי הייטק, אתם יודעים שהאיזון בין חדשנות לבטיחות הוא תמיד אתגר. לאו הרביעי קורא למוסדות בינלאומיים חזקים, לתקנים משותפים ולמנגנוני פיקוח — דברים שצריכים לעניין כל מי שעובד על פרויקטים של AI גלובליים. בסופו של דבר, זה עולם שבו ההחלטות של אנשים יכולות להשפיע על מיליארדים.

בעולם ה-AI, המאבק בין בטיחות לחדשנות ממשיך — אבל לפחות עכשיו נשמע קול חזק מראש הוותיקן.