השר Piyush Goyal מתלונן על דיפפייק

זה נשמע כמו תרחיש קיצוני, אבל זו המציאות: שר הודי בכיר, Piyush Goyal, הגיש תלונה רשמית למשטרה על סרטון דיפפייק שנוצר באמצעות AI. הסרטון, שמראה את השר מאיים כביכול על סטודנטים, הוא מזויף – ו-Goyal לא מוכן לעבור לסדר היום.

אז מה בעצם קרה? ב-25 ביולי 2026, בשעה 4:35 לפנות בוקר, נרשם FIR (דוח מידע ראשון) מס' 123/26 בתחנת המשטרה Chanakyapuri בניו דלהי. Goyal, השר למסחר ותעשייה, טוען שדבריו לעיתונאים מחוץ לפרלמנט 'שונו באופן זדוני' באמצעות מודל AI כדי ליצור סרטון דיפפייק ולהפיץ מידע מטעה. 'השימוש חסר האחריות ב-AI כדי להטעות את הציבור אינו מקובל ולא יסבול', הוא כתב ברשת X.

האירוע הזה לא מתרחש בוואקום. הוא קרה על רקע גל מחאות של סטודנטים בהודו על הונאות בבחינות NEET, הבחינה הרפואית המרכזית. הממשלה, דרך הלשכה למידע ציבורי (PIB), כבר הזהירה מוקדם יותר על סרטוני דיפפייק דומים של ראש הממשלה Modi ושרים אחרים, כמו Dharmendra Pradhan. PIB האשימה חשבונות תעמולה פקיסטניים בהפצת הסרטונים הללו, ופרסמה את הסרטונים המקוריים להשוואה.

איך עובד העניין? מודלים מתקדמים של AI מאפשרים לזייף סרטונים ברמת ריאליזם גבוהה – תוכלו לחשוב שזה כלי טכנולוגי מרשים, אבל במקרה הזה הוא הפך לנשק. הסרטון המקורי של Goyal שוכתב כך שיציג איום על מפגינים, מה שלא קרה במציאות. ממשלת הודו מיהרה להוריד קישורים רבים מהרשתות החברתיות, אבל הנזק כבר נעשה – הסרטון הופץ במהירות.

Goyal קרא לציבור להסתמך רק על מקורות מאומתים, והביע אמון שהנוער הטכנולוגי בהודו ידע להבחין בזיוף. 'ל-AI יש פוטנציאל עצום, אבל חובתנו לוודא שהוא לא ישמש ככלי למניפולציה', אמר.

למה זה חשוב לכם, כאנשי היי-טק בישראל? כולנו עובדים עם כלי AI כל יום – מכלי יצירת תוכן ועד לניתוח נתונים. דיפפייקים הם לא רק עניין של חדשות בינלאומיות; הם מראים איך הטכנולוגיה שאנחנו מפתחים יכולה להיות חרב פיפיות. הזיופים האלה פוגעים באמון הציבורי, יכולים להשפיע על תהליכים דמוקרטיים, ואפילו לעורר מתחים בין מדינות. בעולם שבו קל כל כך ליצור תוכן מזויף, הצורך באימות כפול ופיתוח כלי זיהוי הופך לחיוני.

ממשלת הודו מבטיחה 'פעולה משפטית קפדנית' נגד כל מי שמעורב ביצירה, הפצה או קידום הסרטון. ה-FIR שהוגש כולל פרטים ספציפיים, מה שמראה על רצינות החקירה – אולי תקדים משפטי בעולם ה-AI.

בסופו של דבר, המקרה הזה מדגיש את הפער בין הקדמה הטכנולוגית לרגולציה. AI כאן כדי להישאר, אבל כנראה שנחיה עם החרב הזו עוד זמן רב – וכולנו נצטרך ללמוד להיזהר ממנה.