עידן הבינה המלאכותית: ההבטחה והסכנות החדשות

עלייה מדאיגה בפשיעה מבוססת בינה מלאכותית בדרום קוריאה

דו"ח חדש של הרשות הלאומית לחקירות בדרום קוריאה חושף כי 62% ממקרי הפשיעה הקשורים לסרטוני דיפ פייק (Deepfake) בבני נוער מבוצעים על ידי קטינים, בהובלת טכנולוגיות AI זולות ונגישות. רק בשנה האחרונה (נובמבר 2024-אוקטובר 2025) נעצרו 3,557 אנשים בגין אלימות מינית מקוונת, כאשר 1,553 מתוכם קשורים ליצירת או הפצת תוכן מזויף.

המשטרה הדרום קוריאנית הרחיבה את הגדרת הפשיעה הקשורה לבינה המלאכותית - מחקירת תוכן פורנוגרפי סינתטי בלבד לטיפול גם במקרי סחיטה, הטעיה וניצול של קטינים תוך שימוש בכלים דיגיטליים.

המקרים הבולטים כוללים:

1. נער בן 15 שיצר והפיץ 590 סרטוני דיפ פייק של ידועניות דרך ערוצי Telegram
2. קבוצת בני נוער שסחטה קורבנות באמצעות איומי הפיצת סרטונים מזויפים

המעורבות הפוליטית של AI ו'האינטרנט המת'

מערכות בחירות עתידיות: מתי המועמד הראשון של הבינה המלאכותית ייבחר?

בעוד שבקוריאה מתמודדים עם פשיעת דיפ פייק, בעיתונות האמריקאית עולה שאלת השימוש בAI במערכות בחירות פוליטיות. דעה שפורסמה ב-Wall Street Journal טוענת כי:

• מערכת הבחירות של 2028 תהיה הראשונה שבה יפעלו קמפיינים פוליטיים המונעים לגמרי בידי בינה מלאכותית
• הטכנולוגיה כיום מסוגלת למקד קמפיינים ברמת הפרט ולייצר מסרים משכנעים
• מחסומים טכניים ומשפטיים עדיין מעכבים אוטומציה מלאה של תהליכים אלקטורליים

'האינטרנט המת' מתעורר לחיים

סקירה של חברת Imperva חושפת כי בשנת 2024 51% מתעבורת האינטרנט הגלובלית נעשתה על ידי בוטים, ומחקר של Graphite מוסיף שתוכן ברשת שנוצר על ידי AI עלה כבר ב-2024 בנפחו על תוכן אנושי. 'תיאוריית האינטרנט המת' (Dead Internet Theory), שנתפסה בעבר כתיאוריית קונספירציה, מקבלת חיזוקים מחקריים:

• בוטים אחראים לכ-40%-60% מהפעילות במדיה החברתית
• חשבונות מזויפים מהווים כ-64% מהתנועה בפלטפורמת X וכ-9.5% באינסטגרם
• עלייה בשכפול תוכן דל-איכות והתחזות לבני אדם

"אתם קוראים מכונות שסוכמות חומר שנכתב על ידי מכונות אחרות" - דברי דידי דאס משותפת Menlo Ventures

תגובת העולם הטכנולוגי לאתגרים החדשים

דרום קוריאה: מאבק כולל בפשיעה דיגיטלית

הממשלה הדרום קוריאנית:

• שינתה ב-2024 את חוקי עבירות המין כך שהחזקת תוכן דיפ פייק מהווה בעצמה עבירה
• הגישה מעל 36,000 בקשות להסרת סרטונים פוגעניים
• מפתחת תוכניות חינוכיות למניעה עם משרד החינוך

מהאינטרנט הציבורי לערוצים פרטיים

חוקרים כמו אלכס טרבי מציינים כי:

• משתמשים עוברים לפלטפורמות סגורות (כמו Discord) כדי להימנע מבוטים
• טכנולוגיות זיהוי זהות מבוססות בלוקצ'יין (Worldcoin, Proof of Personhood) צפויות לצבור תאוצה

הטכנולוגיה הבאה: סוכני AI ווידאו סינטטי

חברות כמו:

• OpenAI עם Sora 2
• Google עם Veo 3
• Amazon ו-Perplexity (שקיבלה הפסקת שימוש מ-Amazon)

מובילות פיתוח כלים המייצרים תוכן מציאותי שמעמיק את האתגר בזיהוי תכנים אמיתיים מול מזויפים.

התחזית: אינטרנט שקוף יותר?

ניראב מורתי, מייסד שותף של Camp Network, מסכם: "כשמתגמלים יצירה אמיתית והונאה יקרה - נותרת במרחב המקוון עוד נקודה אנושית". המערכות הטכנולוגיות והחוקיות החדשות נועדו לשקם כמה מתחושת האותנטיות שאפיינה את האינטרנט המוקדם, אך יש הסכמה שהאתגרים רק ילכו ויעמיקו.