OpenAI חשפה: עיתונאים מזויפים שנוצרו בעזרת ChatGPT שירתו קמפיין איראני
OpenAI פרסמה כי סגרה קמפיין השפעה רוסי, שסווג בקטגוריה 5 (הגבוהה ביותר עד כה), וקמפיין איראני שסווג בקטגוריה 4. הקמפיינים השתמשו ב-ChatGPT כדי ליצור עיתונאים מזויפים וארגוני קש. הם הצליחו להחדיר מסרים מוטים לאמצעי תקשורת לגיטימיים, מה שמעיד על עליית מדרגה בתחכום של מלחמת המידע הדיגיטלית.
בשנתיים וחצי האחרונות, OpenAI פרסמה דוחות על ניסיונות של גורמי איום להשתמש במודלים שלה כדי לבצע מתקפות סייבר, פעולות השפעה נסתרות (IO), הונאות והפרות אחרות של תנאי השימוש. אבל השבוע היא חשפה משהו חדש — ומדאיג יותר.
OpenAI פרסמה לאחרונה כי סגרה שתי פעולות IO — אחת מרוסיה ואחת מאיראן — שהשתמשו במודלים שלה, כולל ChatGPT, כדי לתמוך בישויות שהתחזו ל"חזיתות" מתוחכמות. השורה התחתונה: שחקנים גיאו-פוליטיים עוינים בונים זהויות דיגיטליות מלאות וארגוני קש, ומנצלים AI כדי לשדרג את הפעילות הזו ולהחדיר מסרים מוטים לשיח תקשורתי לגיטימי.
מה הם בעצם עשו?
הקמפיין האיראני הקים "אורווה" של שבע דמויות עיתונאיות מזויפות. הללו פנו לאמצעי תקשורת קטנים ובינוניים מסביב לעולם כדי לפרסם מאמרים ארוכים ששירתו נרטיבים גיאו-פוליטיים, עם דגש על יחסי ארה״ב–איראן. בנוסף, הם יצרו אצוות של תגובות לרשתות חברתיות. לדברי OpenAI, הפעילות הזו "נראתה עקבית עם גורם מסחרי שמפעיל קמפיין השפעה בעבור תשלום", אך החברה לא הצליחה לזהות מי עומד מאחוריו.
הקמפיין הרוסי, שקיבל את השם "Dark Clark", התמקד במדינות אמריקה הלטינית. המטרה: לפגוע בתמיכה באוקראינה ולנסות להשפיע על תוצאות פוליטיות מקומיות, במיוחד בארגנטינה ובבוליביה. הפעילות כללה הקמת מכון מחקר מזויף, גיוס חוקרים תמימים, יצירת מסמכים "מודלפים" ותסריטי אודיו, וגם ניסיון מתוחכם לגרום למוסדות חינוך לארגן אירועים שמקשרים בין אוקראינה לבין דמותו השנויה במחלוקת של סטפן בנדרה.
אז מה בעצם קרה כאן?
OpenAI הפעילה כלי מדידה פנימי שלה, "IO Breakout Scale", שמדרג פעולות IO בסולם של 1 (הנמוך ביותר) עד 6 (הגבוה ביותר). הקמפיין הרוסי סווג כ-קטגוריה 5 — הפעם הראשונה שבה היא משבשת פעולה בדירוג כזה. הקמפיין האיראני הגיע לקטגוריה 4.
אבל מה שבאמת מעניין הוא לא הציון, אלא שיטת הפעולה. שתי הפעולות הללו הצליחו להחדיר את התוכן שלהן — לא כולו נוצר בעזרת AI, אבל AI סייע בכך ביעילות — לתוך אמצעי תקשורת לגיטימיים, במקום פשוט לפרסם אותו ברשתות חברתיות. לדברי OpenAI, הדבר עולה בקנה אחד עם דפוס שהיא רואה ב-30 פעולות IO נסתרות שחשפה: פעולות שמשקיעות מאמץ בהחדרת תוכן למדיה אמיתית, ולא מסתפקות בהפצתו דרך חשבונות מזויפים ברשתות, נוטות להיות בעלות טווח ההגעה וההשפעה הגבוהים ביותר.
המקרה הפרואני: איך קמפיין רוסי גרר תגובה מפוליטיקאי אירופי
דוגמה מוחשית מגיעה מפרו. הפעילים הרוסים, לפי הדוח של OpenAI, התחזו לרשות חינוך אזורית ושכנעו בתי ספר לארגן פעילויות בנושא אוקראינה, שכללו התייחסות לבנדרה. כלי תקשורת בפרו דיווח שאירוע כזה אכן התקיים בבית ספר. הדיווח משך תשומת לב בפולין, וחבר פרלמנט פולני, ימני קיצוני, אף הציע לאסור כניסת אנשים שמביעים תמיכה בבנדרה.
"ההונאה הרוסית הזו גם ניזונה ממתחים היסטוריים בין אוקראינים לפולנים, וגם הזינה אותם", כתבו ב-OpenAI.
תפקיד ה-AI: יותר מסתם קיצור דרך
כאן נכנס לתמונה ChatGPT. בשני הקמפיינים, המפעילים השתמשו ב-AI כדי לבצע שלוש משימות עיקריות:
- כתיבת דוחות פנימיים על הפעילות שלהם — ועל פעילות של אחרים — לבוסים הלא ידועים שלהם. ברוסיה, זו הייתה המשימה העיקרית.
- יצירת תוכן: מאמרים, תגובות, תסריטי אודיו ומסמכים.
- שיפור שפה וסגנון: במיוחד בקמפיין האיראני, ה-AI עזר ליצור טקסטים שנשמעים אותנטיים ומשכנעים באנגלית ובפרסית.
חוקר פעולות השפעה, דארן לינביל מאוניברסיטת קלמסון, אמר ל-NPR שרוסים עוסקים ב"אמצעים אקטיביים" כאלה כל הזמן ומנסים לבצע "הלבנת נרטיב" (Narrative Laundering). לדבריו, במקרה הזה, ה"עובדים" הרוסים ניסו להשתמש ב-AI כדי לעשות קיצור דרך ולעבוד פחות, "אבל במקרה הזה, זה עזר ללכוד אותם".
לעומת זאת, בנוגע לאיראן, לינביל טוען ש-AI שימש כיותר מסתם קיצור דרך: "זה עזר להם ליצור שפה שנראתה, הרגישה ונקראה אותנטית עד כדי כך שפורסמה על ידי מוסדות לגיטימיים. אני חושב שלפני כמה שנים, קמפיין איראני כזה היה מתקשה הרבה יותר לעשות זאת".
מה זה אומר עלינו?
כאנשי טכנולוגיה שעובדים עם כלי AI, ולפעמים גם בונים אותם, הסיפור הזה רלוונטי בכמה מישורים:
- אבטחת מידע ומודעות: הפעולות הללו מדגימות כיצד AI יכול לשמש כ"מכפיל כוח" לגורמים עוינים. גורמים כאלה יכולים לנצל חולשות אנושיות — כמו עורכים עמוסים שמחפשים תוכן או חוקרים תמימים — כדי להחדיר מסרים מזיקים.
- היגיינה דיגיטלית אישית: השמות והפרופילים של "עיתונאים" או "חוקרים" יכולים להיות מזויפים לחלוטין. כלי AI מאפשרים ליצור זהויות דיגיטליות אמינות יותר מאי פעם.
- אחריות של חברות AI: OpenAI מדווחת ומפיקה לקחים. זו דוגמה לחשיבותם של עקרונות שימוש אחראי (Responsible AI) ומעקב אחרי שימוש לרעה. הפעילות הזו הופסקה, לדבריהם, לא רק משום ש-OpenAI סגרה חשבונות, אלא גם משום שהפרסום עצמו פוגע ביעילות של קמפיינים כאלה (ראו את המקרים "Alice Donovan" ו-"PeaceData" בעבר).
קנה מידה ומשמעות
OpenAI מציינת שזו אחת מ-30 פעולות IO שהיא חשפה בשנתיים וחצי האחרונות. העובדה שהקמפיין הרוסי מדורג בקטגוריה 5 — הראשון בקטגוריה הזו — והאיראני בקטגוריה 4, מראה על התחכום הגובר. זה כבר לא רק בוטים שפועלים בטוויטר. מדובר בארגונים שבונים מעטה של לגיטימציה — מכוני מחקר, אמצעי תקשורת קטנים ודמויות עיתונאיות — ומצליחים להחדיר את המסרים שלהם לזרם המרכזי.
בסוף, אפשר אולי לסכם את זה כך: בפעם הבאה שאתם קוראים מאמר או פוסט שנראה "קצת מוזר" או "חד-צדדי בצורה חשודה", שנכתב על ידי כותב שלא הכרתם, ייתכן שהוא נכתב, או לפחות עוצב, בעזרת מודל AI, בעבור שחקן שכלל לא חשבתם עליו. מומלץ תמיד לבדוק את המקור.