Talarico: ״ה-AI שם מילים בפה שלי״ בפרסומת של Paxton
מועמד דמוקרטי בטקסס טוען שיריבו הרפובליקני השתמש במודל AI כדי ליצור פרסומת מטעה שבה ״שמו לו מילים בפה״. המרוץ הזה עשוי להכריע את השליטה בסנאט האמריקני, והוא מדגיש את הסכנה של מדיה סינתטית בפוליטיקה.
ניסיתם פעם לדמיין עולם שבו אפשר ליצור סרטון פוליטי אמין לחלוטין מאפס, בלי שום דבר אמיתי? אז זה בדיוק מה שקורה עכשיו במרוץ לסנאט בטקסס — וזו רק ההתחלה.
המועמד הדמוקרטי James Talarico מאשים את יריבו הרפובליקני, התובע הכללי של טקסס Ken Paxton, בשימוש במודל AI כדי ליצור פרסומת מטעה. בפרסומת נראה Talarico כשהוא מקריא לכאורה פסוקים מתוך ה־״King James Talarico Bible״, תוך התייחסות להתבטאויותיו המוקדמות יותר על אלוהים, מגדר ורעיונות. Talarico טוען בבירור: ״הם משתמשים ב-AI כדי להטעות את תושבי המדינה, וזה מתאים לרשימת השקרים של Paxton״.
אז מה בעצם קרה כאן?
Paxton פרסם את הפרסומת, שבה מוצגת גרסת AI של Talarico. בראיון ל-CBS News, Talarico הודה שלא כל הציטוטים בפרסומת הם מדבריו — מה שמדגיש את היכולת של מדיה סינתטית לערבב מציאות ובדיה. ״זה שם מילים בפה שלי״, הוא אמר. בנוסף, Talarico ציין את הדחתו של Paxton ב-2023 על ידי בית המחוקקים של מדינת טקסס, בשל האשמות בשוחד, בשיבוש הליכי משפט ובשימוש לרעה באמון הציבור.
הקשר פוליטי וכלכלי
המרוץ הזה הוא אחד מהיקרים בהיסטוריה, והוא עשוי לקבוע את השליטה בסנאט האמריקני. הדמוקרטים צריכים לנצח בארבעה מושבים כדי לזכות בשליטה, וטקסס היא זירת התמודדות מרכזית. Cook Political Report שינה את דירוג המרוץ מ־״leaning Republican״ ל־״toss-up״ לאחר ניצחונו של Paxton בפריימריז במאי, שבהם ניצח את הסנאטור המכהן John Cornyn. Talarico, שקורא לעצמו ״נוצרי פרוגרסיבי״, מקווה לשבור רצף של עשרות שנים של פריימריז רפובליקניים.
איך זה עובד בעולם ה-AI
הפרסומת הזו היא דוגמה קלאסית לדיפפייק פוליטי — שימוש במודל AI כדי ליצור אווטאר דיגיטלי שמדבר ופועל כמו אדם אמיתי. לטכנולוגיה הזו יש שימושים חיוביים, כמו יצירת תוכן נגיש, אבל היא עלולה לשמש גם להטעיה מאסיבית. Talarico התווה קו ברור: ״כל פרסומת שאנחנו מפרסמים נוצרת על ידי בני אדם, ואנחנו גאים בזה״.
מה המשמעות בשבילכם, בעולם ההייטק?
אם אתם מפתחים או חוקרים בתחום ה-AI, זו תזכורת חיה לחשיבות של אתיקה בפיתוח מודלים. דיפפייקים יכולים להרוס אמון ציבורי — בין אם בבחירות, בשיווק או בתקשורת. בעולם שבו כלים כמו AI גנרטיבי הופכים נגישים יותר, הצורך ברגולציה ובבקרה הופך לדחוף. הישראלים מעורבים לא מעט בתחום הזה, בפיתוח טכנולוגיות לזיהוי דיפפייקים ולניהול סיכונים.
הסטטוס קוו הפוליטי
Talarico טוען שתושבי טקסס עייפים מ״ההצגה של ההיאבקות המקצועית״ בפוליטיקה, ושערכים מסורתיים כמו כנות ויושרה יחזרו. ״אנשים רעבים לערכים הישנים האלה״, הוא אמר. Paxton, לעומתו, מתמודד עם היסטוריה של הוגנות מוטלת בספק.
כרגע, מה שבטוח הוא שמודל AI הפך לכלי חדש בארגז הכלים הפוליטי. ובעולם שבו קליפים באורך שלושים שניות יכולים לעצב דעת קהל — בעולם ה-AI, המפה עדיין נפרשת.