OpenAI חשפה מכון ״ישראלי״ מזויף שהוקם על ידי רוסיה

מכון מחקר עם שם ישראלי, מאמרים אקדמיים ורשימת מומחים מכובדת – כולל נועם חומסקי ופרנסיס פוקויאמה. על הנייר, הכול נראה לגיטימי. בפועל, מדובר היה ברשת השפעה פרו-רוסית חשאית, שהשתמשה ב-ChatGPT כדי לייצר ולהפיץ תכנים התומכים ברוסיה ותוקפים את אוקראינה ואת האיחוד האירופי. OpenAI הודיעה השבוע שזיהתה וחסמה את החשבונות שעמדו מאחורי המבצע.

אז מה בעצם קרה כאן?

המפעילים, שפעלו ככל הנראה מרוסיה, השתמשו ב-VPN כדי לגשת ל-ChatGPT – שכן השירות מוגבל במדינה. הם הורו למודל לייצר תגובות ומאמרים שמשבחים את רוסיה, תוך הקפדה על ניסוחים שלא יסגירו את מוצאם הרוסי. כלומר, הבינה המלאכותית לא שימשה רק ליצירת כמויות גדולות של תוכן, אלא גם ככלי שנועד לטשטש את טביעת האצבע הלשונית.

אבל החלק המעניין יותר הוא התשתית שנבנתה מסביב. במקום להסתפק בפרופילים אנונימיים, המפעילים הקימו גוף שהציג את עצמו כ-International Anti-Corruption Institute (IAAI) וכ-International Burke Institute (IBI). המכון, שלכאורה נוסד בישראל, החזיק אתר שנראה כמו מכון מחקר לגיטימי, עם מאמרים, מחקרים ומדד ״ריבונות״ שהחמיא במיוחד לרוסיה – בזמן שמדינות מערביות קיבלו ציונים נמוכים.

בדיקה העלתה ש-34 מתוך 36 מאמרים שיוחסו למומחים שונים הועתקו ממקורות אחרים, כמו Cambridge University Press. האתר, שעלה לאוויר בפברואר 2025, שימש כעוגן אמינות: פוסטים ברשתות חברתיות יכלו להפנות ל״מחקר״ של גוף לכאורה עצמאי, במקום להיראות כמו תעמולה גלויה.

לא הרבה קוראים, אבל זו לא הנקודה

OpenAI מציינת שהחשיפה הישירה של התכנים הייתה מוגבלת יחסית. אך דווקא התשתית המורכבת – אתר אקדמי, רשימת מומחים, מדד בינלאומי – היא שהדליקה נורה אדומה. האירוע מדגים כיצד כלי AI יכולים להוזיל ולהאיץ משמעותית את הקמתו של מערך השפעה שלם.

כך, במקום להשתמש בבוטים פשוטים, ניתן לייצר מאמרים, תגובות ותכנים בהיקף גדול, ולשלב אותם עם אתרים וגופים לכאורה עצמאיים שמעניקים למסרים שכבה נוספת של אמינות. במקרה הזה, ChatGPT סייע לשמור על נפח גבוה של פרסומים ועל מסרים עקביים.

לא הפעם הראשונה

OpenAI כבר נתקלה בגורמים פרו-רוסיים שמשתמשים ב-ChatGPT. רק בפברואר האחרון חסמה החברה חשבונות הקשורים ל-Rybar, גוף תקשורת פרו-רוסי שממשלת בריטניה תיארה כפועל בתיאום עם הממשל הרוסי. גם גוגל דיווחה על עלייה בשימוש של גורמים פרו-רוסיים בכלי AI, ומחקר של Graphika מצא שימוש בתוכן AI הן מצד גורמים רוסיים והן מצד גורמים סיניים.

במקביל, רשתות חברתיות כמו יוטיוב, לינקדאין וסנאפצ'ט מפעילות מנגנונים לסימון תוכן סינתטי. אך הכלים הופכים מתוחכמים יותר, וכך גם האיומים.

מה זה אומר עלינו?

מארגון המחקר ״פייק ריפורטר״ נמסר: ״גורמים בעלי אינטרס פוליטי יכולים כיום להשתמש בבינה מלאכותית כדי ליצור מראית עין של סמכות ואותנטיות, לזייף תמיכה ציבורית ולשבש את דעת הקהל. לצערנו, השיטה הזו לא זרה לזירה הישראלית. עם הבחירות מתקרבות, התרחיש הזה הופך מדיון תיאורטי לסכנה לאומית מיידית.״

בארגון מוסיפים: ״אנחנו נכנסים למערכת הבחירות הראשונה בישראל בעידן ה-AI. הטכנולוגיה מאפשרת לייצר, בקנה מידה ובמהירות חסרי תקדים, תוכן מותאם אישית לכל קבוצת אוכלוסייה. זו לא עוד תעמולה, כפי שהכרנו בעבר, אלא כלי נשק דיגיטלי משוכלל.״

OpenAI מסרה שבעקבות החקירה היא חסמה את הפעילות והשעתה את החשבונות. את המבצע זיהה בן נימו, עובד החברה המוביל צוות לאיתור קמפיינים שעושים שימוש לרעה ב-AI. בסופו של דבר, האירוע הזה הוא תזכורת לכך שכלי AI הם חרב פיפיות: הם יכולים לייצר תוכן מועיל, אבל גם להפוך לנשק בלוחמת מידע. בעולם שבו כל אחד יכול להקים מכון מחקר מזויף בלחיצת כפתור, אולי הגיע הזמן לשאול לאן נעלמה האותנטיות.