הסרטונים ההיפר-מציאותיים של בינה מלאכותית מתפשטים: הונאות, פוליטיקה וסילוף מציאות
סרטוני דיפ פייק היפר-מציאותיים מבוססי בינה מלאכותית זולגים לתחומי ההונאות (מיליוני דולרים באינסטגרם באמצעות סלבריטאים מזויפים), הבידור (סרטוני בוליווד מזויפים שהוסרו מיוטיוב) והמדיניות - תוך יצירת אתגרים חדשים לאבטחת המידע ושמירת אמון הציבור במציאות הדיגיטלית.
עליית הסרטונים המתוצרת בינה מלאכותית מעוררת דאגה גוברת
בעשורים האחרונים, טכנולוגיות בינה מלאכותית משיגות יכולות היפר-ריאליסטיות ביצירת סרטונים וקול – מתקדמות מה שמוביל לאובדן אמון במציאות הדיגיטלית. שלושה אירועים עדכניים ממחישים את הסכנות:
הונאות באינסטגרם בכיכוב סלבריטאים וירטואליים
על פי דיווח של NDTV, נוכלים משתמשים ב-Deepfake ובבינה מלאכותית כדי ליצור דמויות מזויפות של סלבריטאים ולהפעיל הונאות בשווי מיליוני דולרים. התופעה הגיעה למודעות הציבור רק לאחר חשיפת המקרים.
סרטוני Bollywood מזויפים נעלמים מיוטיוב
דו"ח רויטרס חשף כי עשרות סרטונים שנוצרו בבינה מלאכותית עם דמויות מזויפות של כוכבי בוליווד – נעלמו מיוטיוב בתום חשיפת הפרשה. הפלטפורמה פעלה במהירות להסרת התוכן המזהה.
הנשיא טראמפ והמלחמה נגד קרטלים – הידע בינה מלאכותית בסצנות מלחמה
הניו יורק טיימס ערכו חשיפת תחקיר על השימוש בסצנות קרב מתוצרת בינה מלאכותית בהקשרים מדיניים. על פי המקור, שת"פ קונגרס לקבלת מידע אודות תקיפות ימיות באיים הקאריביים נכשל במתן נתונים מדוייקים – בתרחיש שכלל אלמנטים של סימולציית בינה מלאכותית.
מדוע מדאיגות טכנולוגיות הדיפ פייק החדשות?
לצד הפוטנציאל היצירתי, הטכנולוגיה מביאה איתה:
- איומים על אבטחה לאומית (שימוש בקמפיינים של דיסאינפורמציה)
- זיוף זהויות לצורך הונאות
- שחיקה של אמון הציבור במציאות מדיה דיגיטלית
"אנחנו נדרשים לפתח מערך טכנולוגי ומשפטי רחב היקף להתמודדות עם תופעת ההיפרזיוף" מסכם עלי גבע, מומחה לאבטחת סייבר מאוניברסיטת תל אביב.
מקורות