קמפיין ישראלי חשאי משפיע כבר על תשובות ChatGPT

מה קרה כאן בעצם?

פוליטיקו חשף הבוקר מסמכים שמצביעים על כך שממשלת ישראל מפעילה קמפיין השפעה ייעודי שמטרתו לעצב את התשובות שמספקים צ׳אטבוטי AI כמו ChatGPT ו-Perplexity לשאלות שקשורות למלחמה בעזה, לצה״ל ולישראל. המסמכים הוגשו למשרד המשפטים האמריקאי על ידי חברת היח״צ Havas Media, בהתאם לחוק שדורש מגורמים זרים שמנהלים קמפיינים כאלה לחשוף את הפעילות שלהם.

לפי הדיווח, מדובר בניסיון ממוסד ראשון מסוגו להשפיע על מודלי שפה גדולים — לא דרך שינוי המודל עצמו, אלא דרך הצפת האינטרנט בתוכן פרו-ישראלי שה-AI אמור לקלוט, לעבד ולהציג כתשובה.

איך זה עובד?

קבלנית משנה של Havas בשם Piro הקימה מכון מחקר פיקטיבי — Hanover Institute for Public Policy. האתר מעוצב באופן גנרי, והמאמרים בו אינם חתומים, אבל בתחתיתו מופיע גילוי נאות זעיר: "החומרים מופצים על ידי Piro בשם Havas בשם לשכת הפרסום הממשלתית (לפ״ם) של ממשלת ישראל".

האתר נבנה על ידי הסטארט-אפ האמריקאי Res, שמתמחה בדיוק בתחום הזה — עזרה ללקוחות לשפר את הייצוג שלהם בתשובות AI. בעבר התגאה בעבודה עם חברות כמו נייקי ואינטל.

המאמרים באתר נכתבו בפורמט שמותאם לעיבוד על ידי מודלי שפה: כותרות שמדמות שאילתות אמיתיות כמו "האם צה״ל הוא הצבא המוסרי בעולם?", "האם יש מדיניות רעב בעזה?" ו"האם יהודים הם כובשים זרים בארץ ישראל?" — שאלות שמשתמשים באמת מזינים לצ׳אטבוטים.

100 אלף דולר — ותראו מה זה עושה

הקמפיין תוקצב בסכום צנוע יחסית של 100 אלף דולר — "ליצירה והפצה של חומרים אינפורמטיביים שנועדו לחנך את הציבור האמריקני בנוגע לישראל", כפי שנכתב באחד המסמכים. בעולם שבו קמפיינים פוליטיים עולים מיליונים, הסכום הזה זניח — אבל האפקט הפוטנציאלי אדיר.

וזה כבר עובד

החלק המדאיג באמת: לפי החקירה של פוליטיקו, ChatGPT ו-Perplexity כבר מצטטים מאמרים מהמכון הפיקטיבי בתשובות שלהם לשאלות על עזה, אנטישמיות ואנטי-ציונות. זה לא עתיד תיאורטי — זה קורה כרגע.

למה זה שונה מ-SEO רגיל?

מנועי חיפוש מסורתיים מציגים למשתמש רשימה של מקורות מתחרים, ונותנים לו לבחור. צ׳אטבוטים עושים משהו אחר לגמרי: הם מסכמים, מסנתזים ומציגים תשובה אחת. זה אומר שתוכן שמודל הבינה המלאכותית מחליט לסמוך עליו מקבל משקל הרבה יותר גדול — וקל יותר לתמרן את המודל.

הממשלה לא מנסה לשנות את המודל עצמו. היא פשוט מציפה את האינטרנט בתוכן שמותאם לצריכה של מודלי שפה, בתקווה שהם יקלטו אותו ויחזרו עליו כעובדה.

Daniel Rosenberg, מייסד Piro, אמר לפוליטיקו שהם נשכרו "לשלב עובדות מדויקות וסמכותיות בשיח הציבורי, ולהילחם במידע מוטעה באמצעות מידע מאומת".

שדה קרב חדש

מה שפוליטיקו חושף פה זה בעצם חזית חדשה במלחמת המידע: לא קידום בגוגל, לא מניפולציה ברשתות חברתיות — אלא ניסיון להשפיע ישירות על מה שה-AI אומר למשתמשים. ישראל היא כנראה הראשונה שמפעילה קמפיין כזה בצורה מוסדית. אבל אם זה עובד ב-100 אלף דולר — אתם יכולים לנחש כמה מדינות אחרות מתכננות להשקיע בתחום.