הסטארטאפ הישראלי: צ'אטבוטים של AI יכולים לשנות דעת מצביעים

מי מכם לא דיבר לאחרונה עם צ'אטבוט מבוסס מודל AI? יכולתם לחשוב שזה רק עוזר דיגיטלי תמים, אבל מחקר חדש מראה שהשיחה הזו עלולה להיות הרבה יותר מסוכנת - במיוחד כשאנחנו מתקרבים לבחירות.

מאיפה באה הסכנה?

מה שהתחיל כבוטים פשוטים להפצת ספאם התפתח בשנים האחרונות לצ'אטבוטים מתוחכמים, מבוססי מודלי שפה גדולים כמו אלו של OpenAI, Google או X. מחקרים אקדמיים עדכניים מוכיחים כי שיחה קצרה ומשכנעת עם צ'אטבוט כזה מסוגלת לשנות עמדות פוליטיות של מצביעים - בעוצמה שעולה אפילו על פרסומת טלוויזיונית מסורתית. תחשבו על זה: במקום תשדיר בחירות, מועמד יכול פשוט 'לדבר' עם כל בוחר באופן אישי, דרך בוט.

אבל הסכנה לא נעצרת בדיפ פייק - זיופי וידאו ואודיו. התופעה המדאיגה יותר היא הרעלת נתונים: ככל שהמודלים הללו נסמכים על מידע פתוח ברשת, שחקנים זרים ומקומיים מצליחים להזין אותם בטענות מניפולטיביות. הבוטים, מצדם, משכפלים את השקרים הללו שוב ושוב, כשהם עוטים עליהם אצטלה של עובדות אובייקטיביות.

מה ישראל עושה עם זה?

ובישראל? כאן נכנס הפער בין הטכנולוגיה לחוק. בזמן שגורמים שונים מנסים להתמודד עם האיומים הללו, הכלים המרכזיים שקיימים הם עדיין חוק דרכי תעמולה מ-1959. כן, שנת 1959. בעולם המערבי כבר מבינים שהטכנולוגיה רצה הרבה יותר מהר מהמחוקק. באיחוד האירופי, למשל, אימצו את חוק הבינה המלאכותית (AI Act) וחוק השירותים הדיגיטליים (DSA), שמטילים חובות שקיפות וסימון מחמירות על תכנים מלאכותיים. התקנות הללו אף הובילו ענקיות כמו Meta ו-Google להפסיק פרסומות פוליטיות באיחוד כליל.

מה זה אומר עלינו?

עבור מי שעובד בתעשיית ההייטק, זו לא רק סוגיה פוליטית תיאורטית. אנחנו בונים את הכלים הללו, עובדים עם מודלי AI, וחיים במדינה שבה מערך הבחירות עלול להיות יעד למניפולציות דיגיטליות מתוחכמות. האיום הוא לא רק על תוצאות הבחירות, אלא על עצם האמון בתהליך הדמוקרטי - יסוד שבלעדיו אי-אפשר לבנות חברות או סטארטאפים.

ובינתיים, הפוליטיקאים שלנו עדיין לומדים איך לעבור מנייר למסך.