Meta משיקה כלי AI לזיהוי תכנים פדופיליים ברשת

33.2 מיליון פריטי תוכן פדופילי – זה המספר ש-Meta פרסמה אתמול, והוא מבהיר את היקף הבעיה העצום שהחברה מתמודדת איתה. יותר מ-97% מפריטי התוכן האלה אותרו על ידי המערכות של החברה לפני שמשתמשים דיווחו עליהם, מה שמעיד על יעילות מרשימה, אך גם על הצורך באמצעים טכנולוגיים מתקדמים.

במקביל, Meta משיקה כלי AI חדשים שנועדו לזהות פרסומות וחשבונות שמפנים בסתר לתוכן פדופילי. החברה הציגה מודל שפה גדול (LLM) חדש שמאתר ״סיגנפוסטינג״ – פרסומות שנראות תמימות, אך מכוונות לאתרים עם תוכן לא חוקי. ה-AI גם בודק לאן הפרסומות שולחות משתמשים, ולא רק מה הן מכילות, כדי לחסום אתרים מפרים ולנקוט פעולה נגד החשבונות שמאחוריהם.

בכל הנוגע לפיקוח ההורי, Meta מרחיבה את הכלים באפליקציית Meta AI. הורים יוכלו לראות את הנושאים שבני הנוער שלהם שאלו עליהם בשבוע האחרון, אך לא את השיחות עצמן. קיימות גם אפשרויות להגבלת תוכן, כגון ״תוכן מוגבל״, שמפחית עוד יותר את סוגי השיחות שמתבגרים יכולים לנהל. מומחים מותחים ביקורת על כך ש-Meta מטילה את האחריות על ההורים במקום לבנות מוצר בטוח מלכתחילה – ג׳וש גולין, מנהל עמותת Fairplay, טוען שהצ׳אטבוט נועד ״לתמרן צעירים לבלות יותר זמן בפלטפורמה״.

מחקרים מראים ש-57% מבני הנוער בארה״ב כבר השתמשו בצ׳אטבוטים, מה שמעלה חששות לגבי תלות מוגזמת וחשיפה מוקדמת לתוכן מיני. Meta עצמה עמדה לאחרונה בפני קנס של 567 מיליון דולר בשל תרומתה למשבר בריאות הנפש של צעירים, והגיעה להסדר של 18 מיליארד דולר בתביעה בנושא בטיחות ילדים. החברה מנסה להוכיח שהיא לוקחת את הנושא ברצינות, עם כלים חדשים כמו סוכן AI לבדיקת בטיחות (״רד-טימינג״), וכן שיפור בזיהוי משתמשים חוזרים.

בסופו של דבר, הכלים האלה הם ניסיון של Meta לאזן בין חדשנות טכנולוגית לבין אחריות חברתית – אך השאלה אם הם יספיקו כדי לשקם את האמון הציבורי נותרת פתוחה, במיוחד כשרק הזמן יגיד אם ה-AI באמת ינצח את הפדופיליה.