הסטארטאפ הישראלי IntelEye מואשם בהפעלת אלף בוטים

כשמודלים בקוד פתוח יוצאים משליטה

בפעם הראשונה, גופי מודיעין ואבטחה בארצות הברית מזהירים מפני עידן חדש לחלוטין בלוחמת התודעה ברשת. לא עוד צוותי טרולים אנושיים שכותבים פוסטים באופן ידני — עכשיו מדובר ב"סוכני AI" אוטונומיים לחלוטין שפותחים בעצמם פרופילים מזויפים, מייצרים תכנים, מגיבים לגולשים ומלהיטים דיונים ציבוריים ברשתות חברתיות כמו X, אינסטגרם, פייסבוק וטיקטוק — כמעט בלי מגע יד אדם.

הטכנולוגיה הזו כבר לא תיאורטית. על פי תחקיר שפורסם ב"ניו יורק טיימס", מדינות כמו איראן וסין, לצד חברות פרטיות מישראל, כבר מפעילות קמפיינים כאלה בקנה מידה חסר תקדים.

מה בעצם קרה כאן?

הגורמים שמאחורי קמפייני ההשפעה השתמשו במודלים בקוד פתוח — כאלה שכל אחד יכול להוריד, לשנות ולהפעיל. בניגוד למערכות סגורות של חברות כמו OpenAI (שפיתחה את ChatGPT) או Anthropic, למודלים בקוד פתוח אין "מתג כיבוי" מרכזי. אי אפשר "למשוך את השקע".

המפעילים הסירו מהמודלים הללו את מנגנוני הבטיחות המובנים — אלה שנועדו למנוע יצירת פרופילים פיקטיביים או מניפולציות — וחיברו אותם לסוכנים אוטונומיים. התוצאה: אלפי חשבונות מזויפים שפרסמו ברציפות פוסטים פוליטיים, בלי שאיש צריך לשבת מאחורי המקלדת.

IntelEye הישראלית על הכוונת

ובין הקמפיינים המדינתיים של טהרן ובייג'ינג, בלטה במיוחד חברה אחת: IntelEye, סטארטאפ מתל אביב שהוקם ב-2023 על ידי יוצאי חברת הסייבר ההתקפית NSO — חברה שכבר נכנסה בעבר לרשימה השחורה של הממשל האמריקני.

לפי גורמי מודיעין אמריקניים, IntelEye השתמשה במודל הסיני DeepSeek כדי להשתלט על כ-10,000 חשבונות ברשתות החברתיות, מתוכם כ-1,000 הופעלו בפועל על ידי סוכני AI אוטונומיים. החשבונות האלה התערבו בדיונים סביב הבחירות בישראל — חלקם תמכו בראש הממשלה בנימין נתניהו וחלקם התנגדו לו, במטרה להגביר את המעורבות ולהלהיט את השיח.

"ניסוי מחקרי" או קמפיין השפעה?

מאור סלק, מייסד-שותף ב-IntelEye, אישר את השימוש במודל DeepSeek והודה שהסוכנים האוטונומיים בחרו את הנושאים והטקסטים — בלי מעורבות אנושית ישירה. עם זאת, הוא דחה את הטענות לקמפיין השפעה:

"IntelEye אינה מפעילה קמפיינים של השפעה. העבודה עם DeepSeek נעשתה במסגרת ניסוי מחקרי והגנתי, שמטרתו להבין כיצד מודלים ללא מנגנוני בטיחות מספקים עלולים להיות מנוצלים לרעה, וכדי לשפר את היכולת לזהות פעילות כזו בעתיד."

סלק הודה בדיעבד שהיה על החברה ליידע את פלטפורמות המדיה החברתית שהיא מבצעת ניסוי בשטחן.

מטא לא קונה את הסיפור

בענקית הטכנולוגיה מטא לא התרשמו. דובר החברה מסר כי מדובר "ככל הנראה בניסיון מתואם ליצור חשבונות לא אותנטיים לרוחב מספר פלטפורמות", והבהיר שמטא הסירה את מרבית החשבונות הללו. בארצות הברית, החשש הגדול הוא שהטכנולוגיה הזו תופנה להטיית דעת הקהל לקראת בחירות האמצע לנשיאות ולקונגרס בנובמבר.

לסיכום: מה זה אומר עלינו?

עבור מי שעובד בתעשיית הסייבר הישראלית, הסיפור הזה מסבך עוד יותר את היחסים המורכבים ממילא עם וושינגטון. אחרי NSO, Candiru ושורה של חברות התקפיות — IntelEye מראה שה-DNA של הסייבר ההתקפי הישראלי ממשיך לייצר כותרות, הפעם עם טכנולוגיית AI שקשה הרבה יותר לפקח עליה.

Kyle Crichton, חוקר במרכז ג'ורג'טאון לביטחון וטכנולוגיה מתהווה, מעריך שקמפיינים מבוססי סוכנים יהפכו נפוצים יותר ככל שהטכנולוגיה תתפשט. "הסוכנים יכולים להיות מתוחכמים למדי", אמר, "ובנוסף לקנה המידה, יש להם יכולת להיטמע ולהיראות כמו משתמש אנושי".

בקיצור, ה-Twitter bot של פעם היה ילד עם חשבון מזויף. היום זה אלגוריתם שלם שמנהל לעצמו רשת חברתית.