סוכנות הפשע הלאומית של בריטניה: אל תפרסמו תמונות ילדים ברשתות החברתיות
סוכנות הפשע הלאומית של בריטניה וקרן האינטרנט לילדים פרסמו הנחיות חריגות להורים: הגבילו את חשיפת תמונות ילדיכם ברשתות החברתיות. הסיבה: עבריינים משתמשים בכלי AI כדי להפוך תמונות תמימות לחומרי התעללות מינית. ה-IWF זיהה עלייה של 14% בתוכן CSAM שנוצר ב-AI בשנת 2025.
אזהרה חסרת תקדים מפני ניצול AI ליצירת חומרי התעללות מינית בילדים
סוכנות הפשע הלאומית של בריטניה (NCA) וקרן האינטרנט לילדים (IWF) פרסמו הנחיות חדשות וחריגות, הקוראות להורים ולמטפלים להגביל משמעותית את הנראות של תמונות ילדיהם ברשתות החברתיות, מחשש שנוכלים ועבריינים ינצלו אותן באמצעות כלי בינה מלאכותית ליצירת חומרי התעללות מינית.
מה קרה?
שני הארגונים פרסמו שורת המלצות מעשיות, הכוללות מעבר לחשבונות פרטיים ברשתות החברתיות, שיתוף תמונות ילדים רק בקבוצות "קרובים" (Close Friends) בלבד, ועריכת ביקורת מקיפה על תמונות ישנות שכבר פורסמו. ההנחיות מלוות בקמפיין מודעות בפייסבוק, Instagram ו-YouTube.
Lorna Sinclair, מנהלת חינוך בנושא התעללות מינית בילדים ב-NCA, הסבירה: "הורה ממוצע או מטפל לא מפרסם תמונה של ילד ברשת החברתית במחשבה שהיא עלולה להיאגר כדי להפוך לחומר התעללות מינית. יש הרבה הורים ומטפלים שלא יודעים שהבעיה הזו קיימת."
הנתונים המדאיגים מאחורי האזהרה
הנתונים שפרסמה ה-IWF חושפים עלייה דרמטית בהיקף התופעה:
- 8,029 תמונות וסרטונים של חומרי התעללות מינית שנוצרו באמצעות AI זוהו בשנת 2025
- עלייה של 14% לעומת השנה הקודמת
- מספר הסרטונים שנוצרו באמצעות AI קפץ מ-13 בלבד ב-2024 ל-3,443 ב-2025
- כמעט שני שלישים מהסרטונים סווגו כחומר ההתעללות החמור ביותר (Category A)
איך זה עובד?
לדברי Dan Sexton, מנהל הטכנולוגיה של ה-IWF, עבריינים משתמשים במגוון כלי AI במשולב, כולל מודלי AI בקוד פתוח שניתן להוריד בחינם ולשנות. תצלומים תמימים לחלוטין — סלפי של נער מול מראה, תמונה משפחתית או צילום מחצר בית הספר — יכולים להפוך לסרטונים פורנוגרפיים קיצוניים.
מקרים שדווחו לשירות Report Remove חושפים כיצד תמונות סלפי רגילות של קטינים, שבהן הם לבושים לחלוטין, שונו באמצעות כלי AI לקטעי פורנוגרפיה קיצונית. במקרה אחר, נערה בת 15 דיווחה ל-Childline שזר יצר תמונת עירום מזויפת "מאוד משכנעת" שלה, תוך שימוש בפרצופה ובחדרה — כנראה מחומר שנלקח מחשבון ה-Instagram שלה.
במקרה חמור במיוחד, עבריינים גנבו תמונות מאתר של בית ספר בבריטניה, השתמשו בכלי AI כדי להפוך אותן לחומרי התעללות מינית, ואיימו לפרסם את התוצאות. ה-IWF הצליח למנוע את ההפצה של יותר מ-100 תמונות כאלה.
ההנחיות המעשיות להורים
ה-NCA וה-IWF מציעים שלושה צעדים עיקריים:
- בדיקת הגדרות פרטיות — לוודא שהחשבון ברשת החברתית הוא פרטי
- סקירת תמונות קיימות — לבדוק אם תמונות ילדיכם חושפות פנים, גוף או מדי בית ספר, ולהסיר או להסתיר אותן
- דיון פתוח — לשוחח עם ילדים על הסכמה לשיתוף תמונות ולהבין את ההשלכות של AI ו-Deepfake
כמו כן מומלץ:
- לערוך ביקורת על טפסי הסכמה שנחתמו מול מוסדות חינוך ומועדונים
- לבדוק אם בני משפחה או חברים פרסמו תמונות של ילדיכם
- להסיר תמונות ישנות שכבר אינן רלוונטיות
הצעד הרגולטורי הבריטי
הממשלה הבריטית מקדמת חקיקה שתאסור על החזקה, יצירה או הפצה של כלי AI המיועדים ליצירת חומרי התעללות מינית בילדים. כמו כן, חברות טק וארגוני הגנה על ילדים יקבלו סמכות לבדוק האם כלי AI מסוגלים לייצר תמונות כאלה.
Sexton קורא ליישום עקרון Safety by Design במודלי AI — כלומר, הטמעת מנגנוני הגנה כבר בשלב הפיתוח. "אנשים משתמשים במונח הזה אבל אני לא רואה את זה קורה," אמר.
ה-IWF מציין גם שכיום כבר בלתי אפשרי להבחין בין תמונות אמיתיות של התעללות מינית לבין חומר שנוצר באמצעות AI, מה שמקשה על הרשויות לזהות מי מהקורבנות בסכנה ממשית בעולם האמיתי ומי הם Deepfake.