תמונות וסרטונים מזויפים מ-AI: כך הופצו סרטונים כוזבים על ההצפות בהודו
בזמן הצפות קטלניות בפנג'ב, הודו, הופצו סרטוני AI מזויפים ברשתות החברתיות כתיעוד אמיתי מהאסון. הסרטונים הכילו אנומליות כמו תנועה חוזרת של בעלי חיים וזרימת מים לא טבעית. מקורם בחשבונות המתמחים בתוכן AI ב-TikTok ו-Instagram, ומדגישים את האתגר בזיהוי תוכן מזויף בעידן הטכנולוגיה הגנרטיבית.
סרטוני AI מזויפים הציפו את הרשתות החברתיות בזמן אסון הטבע בהודו
בעוד הצפות מונסון הרסניות פוקדות את מדינת פנג'ב שבהודו וגובות עשרות קורבנות אדם, הפיצו רשתות חברתיות ברחבי העולם סרטונים שחוברו באמצעות בינה מלאכותית ומתחזים לתיעודי אמת מהאסון.
כיצד זוהו הסרטונים המזויפים?
- תנועה מחזורית של בעלי חיים: באחד הסרטונים נראים תאואים צועדים בדפוס תנועה חוזרת ומושלמת מדי
- זרימת מים לא טבעית: המים בסרטונים זרמו בצורה שאינה תואמת את חוקי הפיזיקה
- אנומליות חזותיות: דמויות 'נעלמו' לאחר פגיעת גל, וקרונות רכבת השתנו בצורה קסומה
הסרטונים פורסמו במקור בחשבונות TikTok ו-Instagram המתמחים בתוכן שנוצר על ידי AI, כאשר חלקם אף מסומנים במפורש כיצירות בינה מלאכותית.
למה זה חשוב לקהילת הטכנולוגיה?
אירוע זה מדגיש את האתגר הגובר בזיהוי תוכן מזויף בעידן הכלים הגנרטיביים. היכולות המתקדמות של AI מחייבות פיתוח כלים חדשים לאימות מדיה בזמן אמת.
הסרטונים המשיכו להיות מופצים למרות שמקורם היה ברור למתבוננים מיומנים, מה שמעיד על הצורך בחינוך משתמשים לזיהוי תרמיות ויזואליות.