רומניה ביטלה סבב בחירות בגלל קמפיין השפעה מבוסס AI

כשאתם חושבים על איומים על הדמוקרטיה, כנראה עולה לכם תמונה של זיופים בקלפיות או פריצה למערכות ספירה. אבל הסיפור שקרה ברומניה בדצמבר 2024 מוכיח שהסכנה האמיתית עשויה להגיע ממקום אחר לגמרי – מהרשתות החברתיות ומבינה מלאכותית שיודעת לייצר תוכן שנראה אמיתי לחלוטין.

בית המשפט החוקתי ברומניה ביטל את תוצאות הסבב הראשון בבחירות לנשיאות והורה על בחירות מחדש. לא היו זיופים בקלפיות, ולא היו פריצות סייבר למערכות ספירה. מה כן היה? על פי מסמכי מודיעין שפורסמו, קמפיין השפעה מתואם ברשתות החברתיות הצליח לקדם מועמד שולי לצמרת הסקרים בתוך שבועות בלבד. התקדים מדהים: מבלי שאף אחד שינה אפילו קול אחד בקלפי, ערעור האמון בתקינות ההליך הספיק כדי להשבית את כל התהליך.

הדוגמאות מצטברות

ומרומניה למקומות אחרים – התופעה לא מוגבלת למקום אחד. יומיים לפני הבחירות בסלובקיה בסוף 2023, הופצה הקלטת אודיו מזויפת שנוצרה באמצעות AI, שבה נשמע כביכול מועמד מוביל משוחח על דרכים לזייף את הבחירות. בארצות הברית, ערב הפריימריז בניו המפשייר בתחילת 2024, קיבלו אלפי בוחרים שיחות אוטומטיות בקול מזויף של הנשיא Joe Biden, שקרא להם לא להצביע.

המשותף לכל המקרים האלה הוא העיתוי: כולם התרחשו בימים האחרונים שלפני ההצבעה. זה לא מקרי. ככל שמועד ההצבעה קרוב יותר, כך קטן חלון הזמן לאמת מידע, להפריך אותו ולהגיע שוב לציבור. תוכן שקרי יכול להגיע למיליוני אנשים בתוך דקות, בעוד בדיקה ותגובה רשמית דורשות זמן. הפער הזה – בין רגע הפרסום לרגע ההפרכה – הוא שהופך את הנשק הזה ליעיל כל כך.

הבעיה הכפולה

אבל יש כאן גם בעיה עמוקה יותר. כשאפשר לזייף סרטון או הקלטה בקלות, הציבור מתחיל לפקפק גם במידע אמיתי. במקביל, מי שנתפס באמירה בעייתית יכול לטעון בקלות שמדובר בזיוף, גם כשהתיעוד אותנטי. חוקרים קוראים לזה "the liar's dividend" – עצם קיומה של טכנולוגיית הזיוף הופך כל ראיה לחשודה, בין אם היא מזויפת ובין אם אותנטית.

יש גם חדשות טובות (יחסית)

מדינות שהשקיעו מראש באוריינות דיגיטלית ובחינוך לחשיבה ביקורתית הצליחו להתמודד טוב יותר עם התופעה. טייוואן ופינלנד בנו בשנים האחרונות מנגנוני אימות מהירים בשיתוף עם כלי תקשורת וארגונים לבדיקת עובדות. כשהופצו אצלן תכנים מזויפים, ההשפעה הייתה מוגבלת בהרבה. המסקנה ברורה: חוסן חברתי נבנה מראש, לא ביום הבחירות.

מה זה אומר על ישראל?

נועה גבעון, סמנכ״לית קשרי ממשל ב-Microsoft ישראל, טוענת שההתמודדות דורשת שיתוף פעולה בין חברות טכנולוגיה, רשויות, כלי תקשורת וארגוני בדיקת עובדות. חברות טכנולוגיה מפתחות כיום כלי שקיפות ופתרונות לאימות המקור והאותנטיות של תוכן דיגיטלי – אך שום כלי טכנולוגי אינו פתרון קסם.

לצד זאת נדרשים ערוצי תגובה מהירים מטעם ועדת הבחירות, הגנה על תשתיות הבחירות מפני מתקפות פישינג ודליפות מידע, ובעיקר שינוי בהרגלי צריכת המידע שלנו. השאלה "האם הסרטון נראה אמיתי?" כבר אינה מספיקה. צריך לבדוק מי פרסם אותו, האם הוא מופיע בערוצים רשמיים, והאם מקורות נוספים מאמתים אותו.

אם בעבר השאלה הייתה "האם הקלפיות מאובטחות?", היום צריך לשאול גם: "האם הציבור מאמין שהן מאובטחות?"