Google Earth הסירה את ה-AI אחרי יום

יום אחד. זה כל הזמן שלקח ל-Google להרים ידיים ולהסיר את הפיצ'ר החדש שהטמיעה ב-Google Earth, לאחר שעיתונאים וחוקרים חשפו כיצד כלי ה-AI שלה יכול לשמש כמכונת דיסאינפורמציה רבת עוצמה.

אז מה בעצם קרה כאן? ב-31 ביולי, Google הכריזה על שילוב מודל ה-AI Nano Banana 2 ב-Google Earth. הפיצ'ר היה פשוט לשימוש: מזינים כתובת, מתמקדים במקום, לוחצים על 'Create Image' ומתחילים לכתוב הוראות. בתוך דקות, הכלי יצר תמונה חדשה המשלבת את הטקסט שלכם עם צילומי הלוויין, הצילומים האוויריים והתלת-ממדיים האמיתיים של השירות.

הרעיון, על פי ההכרזה, היה לאפשר יצירתיות: לתכנן בית חלומות, לדמיין מחדש נוף היסטורי או ליצור אינפוגרפיקה מותאמת אישית. אבל בתוך שעות, חוקרי OSINT (מודיעין ממקורות גלויים) ועיתונאים הראו את הצד האפל.

האינטרנט מוצף ב'סלופ' של AI – אבל לוויין היה מקלט בטוח במשך שנים, תצלומי לוויין שימשו כאמת מידה מוצקה. כשסרטון או תמונה עלו מזירת אסון או סכסוך, חוקרים כמו אלו ב-Bellingcat השתמשו בתצלומי לוויין מ-Google Earth או משירותי לוויין אחרים כדי לוודא מה קורה בפועל. "תצלומי לוויין היו הימור די בטוח כשזה מגיע לאימות אירוע, כי קשה לזייף אותם", אמר ג'ייק גודין, חוקר בכיר ב-Bellingcat, ל-NPR.

הכלי החדש של Google שבר את הכללים. החוקר ההולנדי Henk van Ess, מהניוזלטר Digital Digging, הראה כמה בקלות ניתן לייצר תמונות אמינות של תחנת כוח גרעינית באיראן, פליטים על גבול מקסיקו, או מכתש פצצה ליד בית חולים בעזה. "Google בילתה עשרים שנה בבניית מקור האימות שהעולם בודק לידו", כתב Van Ess. "היום היא הוסיפה כפתור ש'ממציא' דברים".

עיתונאים מ-BBC Verify בדקו זאת בעצמם ויצרו תמונות של מגדל אייפל קורס, בולען בולע את הפירמידה הגדולה, וטנקים רוסיים בקייב. הנזק הפוטנציאלי ברור: תמונה מזויפת של סכסוך, 'מאומתת' על ידי ממשק Google Earth, עלולה להתפשט מהר יותר מהיכולת לחקור אותה.

מגבלות ושמירה – לא מספיק, מסתבר Google לא נכנסה לפיצ'ר בעיניים עצומות. החברה ציינה שהתמונות שנוצרו כללו סימן מים דיגיטלי (watermark) בלתי נראה, ושהיא מונעת יצירת תמונות בנושאים "מזיקים". אבל המציאות הראתה שהשמירה הזו הייתה מחוררת.

Van Ess ו-BBC גילו ששינויים קטנים בשורת הפקודה מאפשרים לעקוף את ההנחיות. גרוע יותר, ניסויים הראו שחלק מכלי זיהוי ה-AI החיצוניים (כמו Hive) ו-Gemini של Google עצמה לא הצליחו לזהות את התמונות המזויפות ככאלה.

"הזיוף לא חייב להיראות משכנע בפני עצמו", הסביר Van Ess. "הוא יורש את האמינות של המפה שעליה הוא נולד".

יום של 'ניסוי וטעייה' – ואז נסיגה מהירה הבוקר שלמחרת, אחרי גל של ביקורת ציבורית ופוסטים ויראליים של עיתונאים חוקרים, Google שינתה כיוון. בחשבון ה-X הרשמי של החברה נכתב שהם "רואים שגיאו-מקצועיים משתמשים בפיצ'ר למטרות שימושיות", אבל גם ראו תמונות מופצות שמפרות את המדיניות שלהם. "לכן אנחנו מחזירים את הפיצ'ר הזה אחורה בזמן שאנחנו עובדים על הטמעת מגבלות חזקות יותר", נמסר.

זהו אירוע שיאפשר לעובדי ההייטק המקומיים, הנשענים על כלי מחקר ו-data כאלה, לנשום לרווחה זמנית. אבל הוא גם ממחיש את מרוץ החימוש: גוגל מנסה לשלב AI גנרטיבי בכל מוצר, כדי להשאיר את המשתמשים בפלטפורמה. לפעמים, המהירות הזו יוצרת סיכונים שקשה לחזות, ושהמגבלות הטכנולוגיות עדיין לא יודעות למנוע.

בסופו של דבר, Google העדיפה את אמון הציבור על פני הפיצ'ר החדש. לא תראו את כפתור ה'Create Image' ב-Google Earth בזמן הקרוב. עכשיו נותר לראות אם הם יצליחו לחזור עם גרסה בטוחה יותר, או שהכלי הזה פשוט נולד עם יותר מדי חורים אבטחתיים. בינתיים, עולם ה-OSINT יכול לחזור לנשום.