זיוף AI של שר הודי הוביל לתלונה במשטרה

אז מה בעצם קרה כאן?

שר המסחר והתעשייה של הודו, Piyush Goyal, טוען שדבריו מחוץ לפרלמנט נחתכו, שונו ופורסמו מחדש באמצעות בינה מלאכותית — כדי ליצור סרטון deepfake שמטרתו להפיץ דיסאינפורמציה. בפוסט שפרסם ב-X ביום שבת, Goyal הודיע שהגיש תלונה רשמית למשטרה, ושה-FIR (First Information Report) נרשם בתחנת המשטרה Chanakyapuri בניו דלהי בשעה 4:35 בבוקר, 25 ביולי.

"ההערות שלי לתקשורת מחוץ לפרלמנט שונו באופן זדוני באמצעות AI כדי ליצור סרטון deepfake שמפיץ מידע מטעה", כתב Goyal. הוא הוסיף שיינקטו צעדים משפטיים חמורים נגד כל מי שהיה מעורב ביצירה, הפצה או הגברה של הסרטון המזויף.

לא רק Goyal

הממשלה ההודית הוציאה אזהרה דומה גם לגבי סרטון deepfake של ראש הממשלה Narendra Modi, שבו לכאורה נשמעו איומים כלפי סטודנטים שמוחים בדלהי. לשכת העיתונות הממשלתית (PIB) קבעה שהסרטון מזויף, ושהצהרות כאלה מעולם לא נאמרו. ב-PIB האשימו חשבונות "תעמולה פקיסטניים" בהפצת הסרטון, והגדירו אותו כחלק מניסיון "להוליך שולל את הציבור".

גם סרטון של שר ההגנה Rajnath Singh נחשף כמזויף — ב-PIB טענו שמדובר ב"טענות שווא לגבי פקיסטן וההפגנות", ופרסמו קישור לסרטון המקורי כהוכחה.

קישורים הוסרו, צעדים משפטיים בדרך

לפי דיווחים, הממשלה הצליחה להסיר קישורים רבים מהרשתות החברתיות שבהם הסרטונים הופצו. הממשלה קראה לאזרחים לדווח על תוכן חשוד דרך חשבון ה-Fact Check של PIB ב-X, ב-WhatsApp (91-8799711259+), או במייל factcheck@pib.gov.in.

Goyal עצמו קרא לציבור להסתמך רק על מקורות מאומתים ורשמיים. "יש לי אמון מלא שהאזרחים המודעים ובעלי הידע הטכנולוגי של הודו, במיוחד הנוער שלנו, לא יפלו בפח של דיסאינפורמציה כזו", אמר.

הקשר רחב יותר

האירוע הזה מצטרף לתופעה גוברת של שימוש ב-AI ליצירת תכנים פוליטיים מזויפים. Deepfake — סרטון שבו פניו וקולו של אדם מוחלפים או מעובדים באמצעות מודל בינה מלאכותית — הפך בשנים האחרונות לכלי נשק תודעתי. הטכנולוגיה הפכה נגישה יותר, קלה יותר לשימוש, וקשה יותר לזיהוי.

בהודו, עם למעלה ממיליארד משתמשי אינטרנט ומערכת בחירות פעילה מאוד ברשתות החברתיות, הפוטנציאל לנזק גבוה במיוחד. הממשלה ההודית מנסה בשנים האחרונות לחוקק רגולציה בתחום ה-AI, ומדינות אחרות — כולל ישראל — עוקבות מקרוב אחר ההתפתחויות.

מה אפשר ללמוד?

למי שעוסק בפיתוח AI או במדיניות טכנולוגיה, האירוע הזה מדגיש כמה נקודות חשובות:

• מהירות התגובה קובעת. הממשלה ההודית פעלה מהר יחסית — הגשת תלונה, רישום FIR, הסרת קישורים. בעולם שבו סרטון מזויף יכול להגיע למיליונים תוך שעות, כל עיכוב מגדיל את הנזק.
• הכלים עדיין לא שם. למרות ההתקדמות בזיהוי deepfakes, אין עדיין פתרון טכנולוגי שמספק הגנה מלאה. הרבה פעמים ה"זיהוי" מתבסס על בדיקה ידנית ועל הקשר — לא על אלגוריתם.
• החוק מפגר אחרי הטכנולוגיה. גם בהודו, גם באירופה וגם בישראל — החקיקה בתחום ה-AI עדיין בהתהוות. אירועים כאלה מאיצים את הדיון, אבל גם מדגישים כמה רחוק הרגולציה עדיין מהמציאות בשטח.

Goyal סיכם את הפוסט שלו באמירה ברורה: "השימוש הבלתי אחראי ב-AI להולכת שולל את הציבור אינו מקובל ולא יסבול." ממשלה שמגיבה בכזו מהירות לזיוף דיגיטלי זה אולי הסימן הכי ברור לכך ש-deepfake כבר לא עתיד — הוא ההווה.