סוכנות הפשיעה הבריטית מזהירה: אל תפרסמו תמונות של ילדיכם ברשתות החברתיות

סוכנות הפשיעה הלאומית של בריטניה וארגון Internet Watch Foundation פרסמו הנחיות חסרות תקדים להורים, הקוראות להם להימנע מפרסום תמונות ילדיהם במדיה החברתית הציבורית – וזאת בשל העלייה החדה בשימוש ביישומי 'Nudification' המבוססים על בינה מלאכותית, שיכולים להפוך תמונות תמימות לתוכן פדופילי מתועב.

האיום החדש: AI הופך סלפי תמים לסרטונים פורנוגרפיים

אחד המקרים המטרידים שנחשפו מגיע ממנגנון Report Remove, שירות המאפשר לילדים שצילומיהם הופצו ללא הסכמתם לדווח על כך ולחסום את התוכן. במקרים שתועדו, שתי תמונות סלפי רגילות לחלוטין של בני נוער – שצולמו מול מראה, לבושים במלואם – נלקחו על ידי עבריינים מקוונים ועברו עיבוד באמצעות כלי AI, עד שהפכו בסיס לסרטונים פורנוגרפיים קיצוניים.

במקרה נוסף שדווח לשירות Childline, נערה בת 15 סיפרה שזר יצר עבורה עירום מזויף "משכנע מאוד", תוך שימוש בפניה ובחדרה – וכל החומר המקורי, לכאורה, נלקח מחשבון האינסטגרם שלה.

הנתונים מדברים בעד עצמם

לפי נתוני Internet Watch Foundation (IWF), כמות תוכן ההתעללות המינית בילדים (CSAM) שנוצר באמצעות AI עלתה ב-14% בשנת 2025, כאשר הארגון זיהה 8,029 תמונות וסרטונים מציאותיים שנוצרו על ידי מודל בינה מלאכותית בשנה זו.

מדובר בעלייה דרמטית שמדגישה כיצד הפכו הכלים החדשים לנשק מסוכן בידי עבריינים. לדברי לורנה סינקלייר, מנהלת חינוך בנושא התעללות מינית בילדים בסוכנות הפשיעה הלאומית (NCA): "הורה ממוצע לא מעלה תמונה של ילדו לרשת החברתית עם המחשבה שהיא תיגנב כדי להפוך ל-CSAM. ישנם הורים רבים שאינם יודעים שהבעיה הזו קיימת."

ההנחיות החדשות: שלושה צעדים מעשיים

ה-NCA וה-IWF מדגישים שאינם מורים להורים כיצד לנהוג, אך ממליצים על מספר פעולות:

• בדיקת הגדרות פרטיות ברשתות החברתיות – מעבר לפרופיל פרטי
• שיתוף תמונות ילדים רק בקבוצות "חברים קרובים" ולא בפרופיל ציבורי
• עריכת ביקורת על תמונות ישנות ברשתות, כולל בדיקה האם פניו, גופו או מדי בית הספר של הילד גלויים
• בחינת הסכמי צילום שנחתמו מול מוסדות חינוך או חוגים – ייתכן שרצו להחתים על ההסכמה
• ניהול שיח פתוח עם ילדים על מתן הרשאה לצלם ולפרסם תמונות שלהם

טים רייט, מנהל בכיר ב-NCA, אמר: "אנו מעודדים הורים ואפוטרופוסים לנקוט בכמה צעדים פשוטים היום."

עבריינים תמיד מאמצים טכנולוגיה ראשונים

דן סקסטון, מנהל הטכנולוגיה הראשי של IWF, הודה שהוא מרגיש "לא בנוח" מכך שצריך לומר להורים לא לפרסם תמונות של ילדיהם – אך מרגיש שאין ברירה אחרת. "אני לא יודע מה עוד לומר להורים", אמר. "הייתי זהיר מאוד לגבי פרסום תמונות של ילדים באינטרנט, כי אין הגנה."

ה-IWF ציין כי עבריינים משתמשים במגוון כלי AI במשולב, כולל מודלים בקוד פתוח שניתן להוריד בחינם ולשנות. לדברי סקסטון, כבר כעת בלתי אפשרי להבחין בין תמונות אמיתיות של התעללות מינית בילדים לבין חומר שנוצר ב-AI – מה שמקשה על הרשויות לזהות מי מהקורבנות בסכנה אמיתית ומי קורבן של Deepfake.

גם בתי ספר נמצאים בקו האש

בנוסף לבעיה המשפחתית, תועדו מקרים שבהם אתרי בתי ספר בבריטניה הותקפו על ידי סחטנים שגרדו תמונות של ילדים, השתמשו בכלי AI כדי להפוך אותן ל-CSAM, ואיימו לפרסם את התוצאות. קבוצת ההתרעה המוקדמת הבריטית (EWWG), שחבריה כוללים את ה-NCA וה-IWF, המליצה לבתי ספר להסיר תמונות מזוהות של תלמידים מאתרי האינטרנט וחשבונות המדיה החברתית שלהם.

החקיקה בדרך

ממשלת בריטניה פועלת להגביל את התופעה, בין היתר באמצעות הפיכת החזקה, יצירה או הפצה של כלי AI המיועדים לייצר CSAM לבלתי חוקית. כמו כן, הממשלה מעניקה לחברות טכנולוגיה ולסוכנויות הגנת ילדים את הכוח לבחון האם כלי AI מסוגלים לייצר תמונות פדופיליות.

סקסטון קורא לחקיקה שתחייב מודלים של AI להיות "בטוחים כברירת מחדל" (Safe by Design) – עיקרון שמובילים ארגוני בטיחות מקוונים ודורשים שפלטפורמות מדיה חברתית ייבנו באחריות מתוך מטרה מרכזית של רווחת המשתמש. "אנשים משתמשים במונח 'בטוח כברירת מחדל' אבל אני לא רואה את זה כאן", אמר.

מסר להורים בישראל ובעולם

למרות שההנחיות מיועדות להורים בבריטניה, התופעה גלובלית לחלוטין. יישומי ה-Nudification נגישים לכל משתמש בכל מדינה, ומודלים של בינה מלאכותית בקוד פתוח אינם מכירים גבולות גיאוגרפיים. מומלץ לכל הורה לערוך ביקורת על הנוכחות הדיגיטלית של ילדיו, להדק את הגדרות הפרטיות – ובעיקר לזכור: כל תמונה שמועלת לרשת ציבורית עלולה להגיע למקומות האפלים ביותר ברשת.