מנכ״ל CHEQ: בוטים יזיזו מנדטים בבחירות

אז מה בעצם קרה כאן? מנכ״ל חברת CHEQ הישראלית, גיא טיטונוביץ׳, טוען בביטחון מוחלט שבמערכת הבחירות הקרובה יזוזו מנדטים — כלומר, עשרות אלפי קולות או אפילו מאות אלפים — בגלל מתקפות בוטים מבוססות בינה מלאכותית. לדבריו, זו תהיה מערכת הבחירות החמורה ביותר בהיסטוריה של הפוליטיקה הישראלית, וזאת בגלל קפיצת מדרגה טכנולוגית שמאפשרת ליצור זיופים אמינים בהיקף מסיבי.

למה זה משנה לכם?

אם אתם עובדים בהיי-טק הישראלי, אתם יודעים כמה מהר הטכנולוגיה הזו מתקדמת. טיטונוביץ׳, שחברתו מגנה על ארגונים מפני פעילות לא אנושית ברשת, מסביר שה-AI מאפשר דמוקרטיזציה של בניית צבאות בוטים. אפשר לייצר סוכנים דיגיטליים שמחקים התנהגות אנושית כמעט לחלוטין, ולהפיץ אלפי פוסטים שונים שמנצלים את מנגנוני הוויראליות ברשתות החברתיות. התוצאה? תוכן מזויף שמשפיע על דעת הקהל ברמה שמעוותת את תוצאות הבחירות.

החודש, משטרת ישראל התריעה בפני חברות טכנולוגיה שעליהן להיערך למתקפות בוטים ולפייק ניוז סביב הבחירות. אבל טיטונוביץ׳ לא מתרשם. ״המשטרה מדי פעם שולחת לחברות התרעה: היזהרו מבוטים וממתקפות, במיוחד סביב אירועים פוליטיים״, הוא אומר. ״כל פעם אני אומר להם: רגולציה, רבותיי. בוטים כולם יכולים לבנות, וזה מאוד קל, במיוחד בעידן ה-AI. אף אחד לא מזיז אצבע כדי למנוע מכוחות אפלים להשפיע על דעת הקהל״.

איך זה עובד בפועל?

בואו ניקח דוגמה מהחיים. טיטונוביץ׳ מציין שנראה עלייה חדה באחוזי הבוטים בתנועה מאתרי חדשות ומרשתות חברתיות חודש לפני אירועים פוליטיים. ״אם אתמול 20% מהתנועה לאתר מסוים היו בוטים, עכשיו אתה פתאום רואה 60% בוטים״, הוא מסביר. בארה״ב, השוק העיקרי של CHEQ, התופעה הזו קופצת פי שלושה או ארבעה לפני בחירות. בישראל, אנחנו עדיין לא חודש לפני הבחירות, אבל צופים שזה יגיע בקרוב.

מה הבוטים האלה עושים? הם משפיעים על דעת הקהל בכמה דרכים. אחת המרכזיות היא ניצול הוויראליות ברשתות חברתיות. נניח שמישהו מפרסם ידיעת חדשות מזויפת. בעזרת deepfakes, אפשר ליצור סרטון שבו, למשל, בנימין נתניהו מודה שהוא יצביע ליאיר גולן, וזה ייראה אותנטי לחלוטין.

כדי שהפוסט הזה יגיע למאות אלפי אנשים, כל מה שצריך זה צבא של חשבונות מזויפים — בוטים וסוכני AI שנראים בדיוק כמו משתמשים אמיתיים — שיעשו לייק, ישתפו, יגיבו ויעבירו הלאה. האלגוריתם מזהה מעורבות גבוהה ומחליט לקדם את הפוסט. ככל שהוויראליות גוברת, יותר אנשים נחשפים לתמונה מעוותת.

דוגמה נוספת: סקרים מזויפים

טיטונוביץ׳ מציין שלעיתים קרובות מדובר בפעילות פנים-ארצית, שבה מפלגה אחת מנסה לפגוע באחרת. אבל במקרים רבים, כמו בארה״ב, המקור הוא השפעה זרה, למשל מסין או מרוסיה.

הוא נותן דוגמה ישראלית: יש אתר חדשות ידוע שמעלה מדי יום סקרים בלי לחשוף מי מזמין אותם. ״הסקרים מורכבים משתיים או משלוש שאלות; אתה לא רואה את התוצאות בסוף״, הוא אומר. ״למשל: האם אתה חושב שהודעתו של עופר וינטר על הקמת מפלגה חדשה תפגע בסיכויי ביבי להקים ממשלה ימנית? התוצאות לא מתפרסמות, אבל הנתונים הולכים לישות מסוימת, ויש אנשים שרוצים להבטיח שהישות הזו תקבל תמונה מעוותת״.

למה הפלטפורמות לא עוצרות את זה?

לפי טיטונוביץ׳, הפלטפורמות החברתיות מתקשות להתמודד עם ההיקף. רשת X (טוויטר) מהווה את המוקד המרכזי לתוכן מזויף, בעוד חברות כמו גוגל מצליחות לספק הגנה חלקית בלבד. ״חלקן עושות את זה״, הוא מודה, אבל מבהיר שזה לא מספיק.

הפתרון שהוא מציע הוא רגולציה ממשלתית שתחייב אתרי חדשות ורשתות חברתיות לאמץ טכנולוגיות לזיהוי הונאה והתנהגות לא אנושית. ״לאזרח הפרטי כמעט אין כלים להתגונן באופן עצמאי״, הוא טוען. זה קריטי, במיוחד עכשיו, כשישראל נכנסת למערכת בחירות שבה ה-AI חזק כל כך.

למה הפעם זה חמור יותר?

טיטונוביץ׳ מדגיש שזו מערכת הבחירות הראשונה בישראל שבה ה-AI חזק כל כך. ״הטכנולוגיה הזו משתפרת במהירות שלא ראיתי בשום תחום אחר: מה שלפני חצי שנה היה מדהים, היום הוא מיושן״, הוא אומר. ״היכולת לייצר זיוף בהיקף גדול ולהפיץ אותו עם בוטים גדולה לאין ערוך ממה שהיה במערכת הבחירות הקודמת לפני ארבע שנים״.

הוא מביא דוגמאות מהעבר. בארה״ב, אירועים פוליטיים נקבעים גם באמצעות קמפיינים של השפעה שהכלי העיקרי בהם הוא בוטים. ״בעידן ה-AI זה חריף פי כמה״, הוא מוסיף. ״לכן במערכת הבחירות הזאת יהיו קולות שיזוזו לכאן או לכאן בגלל תוכן מזויף שהופץ על ידי בוטים״.

מה צפוי בחודש הקרוב?

טיטונוביץ׳ צופה קפיצה באחוזי הבוטים בתנועה מאתרי חדשות ומרשתות חברתיות. ״אנחנו רואים מיליארדי אינטראקציות ביום מרחבי העולם״, הוא מספר. ״בארה״ב, חודש לפני אירוע פוליטי, תנועת הבוטים קופצת פי שלושה או ארבעה. בישראל, אנחנו עדיין לא חודש לפני הבחירות, אבל אנחנו מתארים לעצמנו שזה תכף יגיע״.

הוא מסביר שהעלייה החדה הזו קשורה למניפולציה על דעת הקהל, דרך תגובות באתרי חדשות, השתתפות בסקרים וניצול הוויראליות ברשתות חברתיות. ״במקרים מסוימים, זה עניין פנימי, עם מפלגה אחת שמכוונת נגד השנייה, אבל במקרים רבים, כמו בארה״ב, זה נובע מהשפעה זרה״, הוא מציין.

אז מה אפשר לעשות?

טיטונוביץ׳ קורא לרגולציה מחמירה. ״חייבים לחייב את הפלטפורמות לאמץ טכנולוגיות לזיהוי פעילות לא אנושית״, הוא אומר. אבל בינתיים, האזרח הפרטי נשאר פגיע. ״אנחנו בחברת CHEQ רואים את זה ביומיום: מיליארדים של אינטראקציות, מתוכם אחוז גדול הוא בוטים. זה אתגר עצום״.

לסיכום, אם אתם מתכננים לעקוב אחרי הבחירות ברשתות החברתיות, קחו בחשבון שחלק ממה שאתם רואים עשוי להיות מפוברק. וכשאתם שומעים על עלייה חדה בתגובות או בשיתופים, שווה לשאול: האם זה באמת אנשים, או סתם בוטים שמניעים את המכונה?

בסוף, אולי הבדיחה היחידה כאן היא שחברת טכנולוגיה ישראלית צריכה להזהיר אותנו מפני הטכנולוגיה שאנחנו כל כך גאים בה. אבל ברצינות, הבחירות האלה עשויות להיות מבחן ליכולת שלנו להבחין בין מציאות לזיוף.