OpenAI חשפה: קמפיין רוסי עם AI קידם מכון מחקר ישראלי פיקטיבי

בזמן שאתם מתמודדים עם באגים בקוד ו-standups, OpenAI חשפה איך כלי AI שאתם מכירים יכולים לשמש ללוחמת מידע מתוחכמת – והפעם, עם טוויסט ישראלי. החברה פרסמה דוח שחשף קמפיין השפעה רוסי שהשתמש ב-ChatGPT כדי ליצור ולפרסם תוכן שקידם מכון מחקר פיקטיבי בשם International Burke Institute (IBI), שהוצג כגוף ישראלי.

מה בדיוק קרה כאן?

OpenAI זיהתה מקבץ של חשבונות ChatGPT שהופעלו על ידי גורמים רוסיים. המפעילים כתבו פרומפטים ברוסית כדי ליצור פוסטים ותגובות בפלטפורמות כמו Substack, טלגרם, X (לשעבר טוויטר), פייסבוק ולינקדאין. התוכן, רובו באנגלית, נועד לקדם את IBI תוך ניסיון להסוות סימנים לשוניים למקור הרוסי. לדברי OpenAI, החברה אינה מתירה גישה למודלים שלה מרוסיה, ולכן המפעילים עשו שימוש ב-VPN כדי לגשת לשירות.

המכון הפיקטיבי: העתקה והונאה

אתר IBI טען שמדובר ב"קהילת מומחים" עצמאית שפועלת מישראל, עם חברים לכאורה כמו פרנסיס פוקויאמה ונועם חומסקי. אבל בדיקה מדגמית של 36 מאמרים שביצעה OpenAI העלתה ש-34 מהם הועתקו מפרסומים אקדמיים אמיתיים, עם ייחוס שגוי. לדוגמה, מאמר על המסדרון הכלכלי סין-פקיסטן הועתק מהוצאת אוניברסיטת קיימברידג' ויוחס בטעות לפרופסור מאוניברסיטת נוטינגהאם. חלק מהמאמרים נכתבו בשפה סלאבית ותורגמו אוטומטית לאנגלית.

בנוסף למאמרים, האתר כלל "אינדקס ריבונות" שדירג מדינות. מרבית הדוחות, שלא נוצרו באמצעות AI, כללו ביקורת חריפה על מדינות מערביות. למשל, על צרפת נכתב שאחרי עשור של שלטון מקרון, המדינה "נפתחת כמו כספת ונמכרת בחלקים". על ארה"ב נכתב שטראמפ "עזב לאחר שנקט כמה צעדים שיכולים להיחשב כפגיעה באוטונומיה".

תפקיד ה-AI: משלים אך קריטי

השימוש העיקרי ב-ChatGPT היה ליצירת פוסטים שקידמו את המכון. חלק פורסמו על ידי חשבונות עם השם והלוגו של IBI, ואחרים הגיעו ממשתמשים פיקטיביים שעיקר פעילותם הייתה פרסום תכנים של IBI. בנוסף, המפעילים יצרו תגובות לפוסטים של משתמשים אמיתיים ב-Substack, שכללו בקשה לעקוב אחרי ערוץ IBI. אחד המפעילים אף יצר פוסטים בגרמנית לערוץ טלגרם בשם Lahme Ente (ברווז צולע), שתקף את אוקראינה, האיחוד האירופי וממשלת גרמניה.

OpenAI מדגישה שהשימוש ב-AI היה משלים לעבודת הליבה של הקמפיין, שהייתה הפעלת המכון הפיקטיבי. "החשיבות של הקמפיין נמצאת פחות בקהל שאליו הגיע, אלא יותר בתשתית שבנה", נמסר מהחברה. "הדבר ממחיש כיצד גורמי השפעה יכולים להשתמש ב-AI ככלי מסייע במסגרת מאמץ רחב יותר לייצר סמכות, לטשטש את מקורם של נרטיבים מועדפים ולבסס נכסים שניתן יהיה להרחיב את היקפם לאורך זמן".

ההשפעה המוגבלת – אבל הלקח חשוב

לפי ההערכה של OpenAI, ההשפעה של הקמפיין על הקהל הרחב הייתה מוגבלת. הפוסטים שפורסמו רשמו מספר צפיות נמוך, ולחשבונות IBI היו מעט מנויים. ערוצי הטלגרם של הקמפיין רשמו בין 10,000 ל-20,000 עוקבים – מספרים צנועים בעולם ההשפעה המקוונת.

OpenAI גם ציינה שיש עדויות מקוונות לכך שגורמים בישראל הזכירו או ייצגו את IBI במאמרים ובוועידות, אך החברה לא יכולה לקבוע את מערכת היחסים בין הגורמים האלה, IBI והמפעילים ברוסיה.

עבורכם, עובדי ההייטק, הסיפור הזה הוא תזכורת חדה: הכלים שאתם בונים – ממודלים של AI ועד פלטפורמות תוכן – יכולים לשמש גם ליצירת תשתית הסברה מזויפת ואמינה לכאורה. הקמפיין אמנם נכשל בהגעה להמונים, אבל הוא מראה איך AI יכול להאיץ בניית נכסים דיגיטליים מפוברקים, ממאמרים אקדמיים ועד מדדים פיקטיביים. בעולם שבו מודלים גנרטיביים הופכים נגישים יותר, זו לא רק בעיה של חברות כמו OpenAI – זו סוגיה שמשפיעה על כל תעשיית הטכנולוגיה.