האפיפיור ליאו מזהיר: ״גן עדן של מכונות״ מסכן את האנושות
במהלך ביקורו בן שלושת הימים בצרפת, האפיפיור ליאו XIV מזהיר שהתפתחות AI ללא שיקולים אתיים עלולה ליצור ״גן עדן של מכונות״ שישחק את האנושיות. הוא קורא לחינוך שמפתח הבחנה אתית, ומדגיש שטכנולוגיה חייבת לשרת את האדם — מסר שמהדהד בוויכוחים על אחריות בפיתוח AI בעולם.
תארו לכם עולם שבו מכונות שולטות בחיים שלנו — ״גן עדן של מכונות״ ששוחק את האנושיות. זה החזון שהאפיפיור ליאו XIV הציב עם פתיחת ביקורו בן שלושת הימים בצרפת, וזו לא עוד אזהרה גנרית. הוא הציב את ה-AI במרכז הדיון, ושלח מסר חד לתעשיית הטכנולוגיה.
אז מה בעצם קרה כאן?
בנאומו בארמון האליזה, מול נשיא צרפת עמנואל מקרון, הזהיר האפיפיור: ״אם ברצוננו למנוע מאנושותנו להיבלע בתוך 'גן עדן של מכונות' שפולש לחיי היום-יום שלנו ומעצב אותם, יש צורך דחוף בחינוך להבחנה אתית״. זה ציטוט ישיר מהנאום, והוא לא עוצר שם. במסר נפרד למטה UNESCO בפריז, הוסיף כי טכנולוגיות חדשות חייבות ״להישאר בשירות האדם, ולא להפוך לכלי נוסף של דיכוי ועוול״.
למה זה חשוב לכם? כי הקריאה הזו מגיעה ממנהיג דתי בכיר, אבל מהדהדת בוויכוחים לוהטים בסצנת ה-AI הישראלית והעולמית: אתיקה, שליטה אנושית ומניעת שימוש לרעה במודלים. האפיפיור, האמריקאי הראשון בתפקיד, הפך את הסכנות שבבינה מלאכותית לנושא מרכזי בכהונתו, ובביקורו בצרפת — הראשון של אפיפיור זה כמעט 20 שנה — הוא שם את זה על השולחן, בלב הדיון הציבורי.
הקשר רחב יותר
דבריו לא עוסקים רק ב-AI. הוא קשר אותם לטרנדים מסוכנים יותר, כמו מניפולציה גנטית, סחר באיברים וחקיקה שמאפשרת המתת חסד — מה שמזכיר את המאבקים הגלובליים על גבולות המדע. ״מדע מאבד את המשמעות שלו כשהוא נרדף ללא אתיקה״, הוא אמר, והדגיש שמערכות מלאכותיות מאמצות את ה'אינטליגנציה' האנושית, בזמן שהרעיונות והיחסים שלנו נמצאים בסכנה להישחק.
עבורכם, אנשי הטכנולוגיה, זה רגע של רפלקציה. אתם עובדים עם מודלים מתקדמים, בונים מערכות AI, ואתם יודעים שהדילמות האלה לא חדשות. אבל כשמנהיג עולמי בעל מעמד כזה מתריע מפני ״גן עדן של מכונות״, זה מחייב תשומת לב — לא כקריאת פאניקה, אלא כקריאת כיוון לחינוך עמוק יותר לאתיקה של AI.
ומה עם ההקשר הפוליטי?
הביקור מגיע בזמן שצרפת מתמודדת עם חקיקה שנויה במחלוקת, והאפיפיור גם מתח ביקורת על מנהיגים שמזלזלים בשלטון החוק. אבל בלב הדברים, המסר הטכנולוגי בולט: בלי שיקולים מוסריים, אנחנו עלולים לאבד את האנושות לטובת מכונות. זו לא רק דאגה דתית; זו שאלה הנדסית, עסקית וחברתית.
אז בפעם הבאה שאתם מדלגים על דיון על אתיקה בפיתוח AI, זכרו: אפילו הוותיקן נכנס למשחק. אולי יש סיבה טובה להאט ולחשוב פעמיים.