בית המשפט בדלהי הורה להסיר סרטוני AI מכפישים
בית המשפט העליון של דלהי הורה להסיר שש כתובות URL ובהן סרטוני AI שהציגו את ראש ממשלת דלהי, Rekha Gupta, כמוכרת אלכוהול, כרוכלת וכשליחת משלוחים — תוכן שפורסם לכאורה בחשבונות של מפלגת AAP. השופט Manoj Jain קבע שסאטירה פוליטית אינה מתירה פגיעה בכבודו של אדם, והזכיר סרטון אחד שצבר כ-75 אלף צפיות. הדיון הבא נקבע ל-4 בדצמבר.
בית המשפט העליון של דלהי הורה ביום שישי להסיר שש כתובות URL שהכילו סרטונים, תמונות ופוסטים ברשתות החברתיות, שנוצרו לכאורה באמצעות בינה מלאכותית והציגו את ראש ממשלת דלהי, Rekha Gupta, באופן משמיץ ומבזה.
הצו ניתן בתביעת לשון הרע שהגישה Gupta נגד מפלגת Aam Aadmi Party (AAP), בדרישה לאסור עליה לפרסם, להפיץ או לפרסם מחדש תוכן AI שלטענתה פוגעני.
מה בעצם נטען
על פי כתב התביעה, הסרטונים והתמונות נוצרו באמצעות AI ופורסמו בחשבונות הרשמיים והמאומתים של AAP. הם תיארו את Gupta כמוכרת אלכוהול, כרוכלת וכשליחת משלוחים, ואף הציגו אותה כראש תוכנית פיקטיבית בשם "Har Har Rekha" או "Ghar Ghar Theka Yojana".
באחד הסרטונים נראתה Gupta מגישה משקאות לגברים בלילה, על רקע סצנת קטטה וליווי מוזיקלי רומנטי. סרטון אחר הציג לכאורה תמונות AI של Gupta ושל סגן ראש ממשלת דלהי כשהם מוזגים אלכוהול לכוסות עם קוביות קרח. לפי כתב התביעה, "הסרטונים והתמונות נראים אמיתיים ומדויקים כל כך, עד כדי כך שמדובר בחיקוי כמעט מושלם".
אחד הסרטונים, שפורסם ב-X ב-4 בנובמבר, צבר לפי הנטען כ-75,000 צפיות, כ-1,600 לייקים וכ-470 שיתופים עד לרגע צילום המסך.
הקו שבין סאטירה לבין פגיעה בכבוד
השופט Manoj Jain קבע כי "הצגה פוגענית של ראש הממשלה, בסיוע סרטוני AI, שפוגעת בכבודה ממש, לא ניתן בשום אופן לראותה כמצויה בתחום הסאטירה הפוליטית המותרת".
הוא הוסיף: "ביקורת הוגנת והומור סאטירי אולי לא יעוררו הרמת גבות, אך הסרטונים והפוסטים שנוצרו ב-AI חצו בבירור את הקו המפריד, שכן התוכן אינו רק משמיץ ופוגעני אלא גם תוקף את כבודה של אישה בעלת סמכות חוקתית".
"סאטירה אמנם עשויה לפגוע ברגשותיו של כל אדם, אך אסור לה ליצור פגיעה בלתי הפיכה בכבודו של מישהו", כתב בית המשפט. "במסווה של חופש הביטוי ובהסוואה של הומור וסאטירה, אין להתיר שאדם יהפוך למושא ללעג ולעלבון".
השופט ציין עוד כי בעוד שהחזקת משרה ציבורית מזמינה בדיקה קפדנית יותר, אין להקריב את כבודו של האדם.
המסר ליזמים ולגולשים
בית המשפט התייחס גם לעובדה שעד שתוסדר בחקיקה הרגולציה של תוכן שנוצר ב-AI, מוטלת על בתי המשפט החובה לבחון אם השימוש בו פוגע בזכותו של אדם לכבוד. הוא הפנה להחלטות קודמות, ובהן פרשת Raghav Chadha.
בנוגע לטכנולוגיה, השופט ציין כי היא מקלה מאוד על יצירת סרטונים ותמונות ריאליסטיים במיוחד — אך האחריות ליצירתם ולפרסומם נותרת בסופו של דבר על בני אדם.
בית המשפט קבע כי Gupta הצליחה להראות לכאורה שעומדת לה עילת תביעה, וכי מאזן הנוחות נוטה לטובתה, בין היתר משום שתוכן כזה עלול להתפשט במהירות הבזק ברשתות החברתיות ולגרום לנזק בלתי הפיך.
הצעדים הבאים
הצו מורה לנתבעים 3, 4 ו-5 להסיר לאלתר את שש כתובות ה-URL שצוינו בכתב התביעה. בית המשפט גם הוציא זימונים לנתבעים, ובהם AAP, והורה להם להגיש כתבי הגנה בתוך 30 יום ממועד קבלת הזימון. הדיון הבא בתיק נקבע ל-4 בדצמבר.