בינה מלאכותית הופכת איומי מוות למציאותיים ומסוכנים יותר
AI גנרטיבית משדרגת איומים דיגיטליים לרמה מסוכנת: טרולים מייצרים תמונות וסרטוני AI ריאליסטיים של קורבנות בסצנות אלימות, תוך התבססות על פרטים אישיים. הטכנולוגיה משמשת גם ליצירת הודעות איום משכנעות ולהעצמת תופעת ה-swating. פלטפורמות כמו X ו-OpenAI מתקשות להתמודד עם האתגר החדש.
הטכנולוגיה החדשה שמעצימה תוקפים באינטרנט
ארגוני אבטחה ופעילים דיגיטליים מתריעים על גל חדש של איומים אלימים ברשת המועצמים באמצעות בינה מלאכותית. הכלים הגנרטיביים מאפשרים כיום ליצור תוכן מותאם אישית – החל מתמונות מזויפות של קורבנות בסצנות אלימות ועד לסרטונים משכנעים המדמים אירועי ירי.
כשהסייברקמיניג פוגש את ה-AI
קייטלין רופר, פעילה בארגון האוסטרלי Collective Shout, חוותה על בשרה את הסכנה החדשה. התוקפים יצרו תמונות AI שלה במצבים קיצוניים:
- תלייה
- הבערה בעוד בחיים
- הכנסה למגרסת עץ
"הפרטים הקטנים כמו השמלה הכחולה שלי שהופיעה בתמונות המזויפות – הם הופכים את החוויה לפולשנית יותר", סיפרה ל-New York Times.
הכלים שמאחורי האיומים
מומחים כמו פרופסור האני פריד מברקלי מסבירים כי בעבר נדרשו עשרות תמונות ליצירת תוכן מזויף. כיום מספיקה תמונה פרופיל בודדת כדי ליצור הונאות משכנעות בטכנולוגיות כמו:
- Sora של OpenAI (יצירת סרטונים ריאליסטיים)
- Grok של xAI (הפקת הוראות מפורטות לפגיעה)
בבדיקות של הניו יורק טיימס, הכלים הצליחו לייצר בקלות:
- סרטון של חמוש בכיתה עקובה מדם
- דימוי של אדם פצוע מירי
ההשלכות במציאות הפיזית
הטכנולוגיה לא נעצרת באינטרנט:
- מערכות החינוך מתקשות להבדיל בין איומי סרק לאירועים אמיתיים (כמו מקרה בית הספר בוושינגטון שנכנס לסגר בעקבות שיחת AI ממוזערת)
- תופעת ה"swatting" (שיגור כוחות משטרה לבניין בעקבות דיווח כוזב) מקבלת חיזוקים מדאיגים
- אזרחים פרטיים מדווחים על סרטוני AI המדמים פריצות לבתיהם
הקריאות לשיפור הגנות
חברות הטכנולוגיה טוענות שהן משקיעות במערכות הגנה אוטומטיות ובניטור תוכן. עם זאת, מומחי אבטחה כמו ד"ר אליס מרוויק ממכון Data & Society טוענים שההגנות הנוכחיות דומות ל"שוטר תנועה רדום" – קלות לעקיפה.
במקביל, פלטפורמות כמו X (טוויטר לשעבר) מתקשות להתמודד עם העומס:
- חשבונות תוקפים מקבלים לעיתים קידום אורגני
- תלונות על תוכן גנרטיבי מאוים נדחות בטענה שאינן מפירות את תנאי השירות
"מבחינת זהות דיגיטלית – כולנו חשופים", מסכם ד"ר פריד. "הטכנולוגיה הזו מאפשרת כמעט לכל אדם עם מוטיבציה שלילית להפוך לתוקף סייבר מסוכן".