גוגל הסירה מ-Google Earth כלי AI ליצירת תמונות לוויין
גוגל השיקה ביום חמישי כלי AI ב-Google Earth שמאפשר ליצור תמונות לוויין מותאמות אישית. בתוך 24 שעות, חוקרים ומשתמשים יצרו דיפ-פייקים של פיגועים, מחנות פליטים פיקטיביים ותחנות כוח גרעיניות — וגוגל הסירה את הכלי. האירוע חושף פער בין יכולת טכנולוגית למנגנוני הגנה, ומעלה שאלות על עתיד בדיקות ה-QA בתעשיית ה-AI.
גוגל השיקה ביום חמישי האחרון פיצ'ר חדש שכולנו יכולים להזדהות עם הפיתוי שבו: אפשרות ליצור תמונות לוויין מותאמות אישית ב-Google Earth באמצעות מודל ה-AI Nano Banana 2. הרעיון היה פשוט — תקלידו מה שאתם רוצים, והכלי יציג את זה על גבי התמונות הלווייניות האמיתיות. גורדי שחקים על איים, בתים עתידניים, אנדרטאות — הכול על בסיס העולם האמיתי.
24 שעות לאחר מכן, גוגל כבר הסירה את הכלי.
מה קרה כאן בעצם?
ברגע שהפיצ'ר הפך לזמין, האינטרנט עשה מה שהאינטרנט עושה. חוקר ה-OSINT ההולנדי Henk van Ess, למשל, יצר בדקה אחת תמונות מציאותיות של מחנה פליטים פיקטיבי על גבול ארה"ב-מקסיקו — ותחנת כוח גרעינית איראנית שלא קיימת. משתמשים אחרים יצרו תמונות של שיטפונות, פיגועים בסגנון 9/11 ומתקפות טרור על אתרים מוכרים. את התמונות הפיצו בטוויטר וברשתות החברתיות.
העוקץ היה ברור: Google Earth נחשבת כבר שנים למקור מידע מהימן — ג'ורנליסטים, חוקרים ומומחי מודיעין גיאו-מרחבי (GEOINT) משתמשים בה כל יום כדי לאמת מיקומים, לזהות תקריות ולנתח תמונות. הכלי החדש הפך את הפלטפורמה הזו למפעל ייצור דיפ-פייקים.
עיתונאית מ-BBC צייצה בביטול ציני: "אין שום אפשרות שהפיצ'ר החדש הזה ליצירת תמונות AI ב-Google Earth — אחד המקורות הכי אמינים של ראיות חזותיות לעיתונאים וחוקרים — ינוצל לרעה להפצת מידע מוטעה באינטרנט."
התגובה של גוגל
החברה פרסמה הודעה שבה הסבירה: "אנחנו יודעים שאנשים בוטחים ב-Google Earth לתצוגה מהימנה של העולם. ראינו אנשי מקצוע גיאו-מרחביים משתמשים בפיצ'ר למטרות שימושיות, אבל ראינו גם אנשים משתפים צילומי מסך של תמונות שנראה שהן מפרות את המדיניות שלנו."
גוגל הוסיפה הערה מעניינת: התמונות שנוצרו לא הופיעו בממשק הראשי של Google Earth — כלומר, משתמשים אחרים לא יכלו לראות אותן. זה נכון, אבל צילומי מסך עפים מהר ברשת. העובדה שגוגל הציגה את הכלי כמשהו ש"מבוסס על העולם האמיתי" (grounded in the real world) רק הגבירה את הסכנה.
מה זה אומר על שוק ה-AI
האירוע הזה מצטרף לשרשרת של מקרים שבהם חברות טכנולוגיה משיקות כלי AI פורצי דרך — ומגלות מהר מאוד שהמשתמשים היצירתיים ביותר הם גם המסוכנים ביותר. זו לא הפעם הראשונה שגוגל מושכת פיצ'ר AI אחרי השקה (נזכיר את ה-AI Overview שביקש מאנשים לאכול סלעים), אבל הפעם זה קרה מהר במיוחד — פחות מ-24 שעות.
עבור מי שעובד בתחום ה-AI או ה-GIS, האירוע הזה הוא תזכורת כואבת: היכולת הטכנולוגית קיימת כבר מזמן, אבל שכבת ה-guardrails — אותם מנגנוני הגנה מפני שימוש לרעה — תמיד מגיעה באיחור. גוגל אמרה שהיא עובדת על "מנגנוני הגנה חזקים יותר" (stronger guardrails) לפני שתחזיר את הכלי. אם בכלל.
יש כאן גם שאלה מעשית: מה קורה בפעם הבאה שגוגל או חברה אחרת תשיק כלי דומה? האם הנורמה החדשה היא השקה-סערה-החזרה תוך 24 שעות? ואם כן — מה זה אומר על בדיקות QA ועל ה-testing הפנימי?
נכון לעכשיו, Google Earth נשאר מה שהיה תמיד: מקור מידע אמין. אולי אמין מדי.