מועצת הפיקוח של Meta: ההגנות שלכם מפני deepfakes לא מספקות

סרטון AI גזעני בפייסבוק — ו-Meta אמרה שאין בעיה

נובמבר 2025. סרטון קצר בפייסבוק מציג לכאורה פוליטיקאי ממפלגת הלייבור בסקוטלנד אומר משפט אחד: "פליטים רצויים כאן, גם אם הם אונסים את הנשים שלנו, כי גם אנשים לבנים עושים את זה." הסרטון כמובן מזויף — deepfake שנוצר בעזרת בינה מלאכותית. שני גולשים דיווחו עליו, כולל הפוליטיקאי עצמו. מערכות Meta לא העבירו את הפוסט לבדיקה אנושית. גם הערעורים של שני המדווחים נסגרו אוטומטית. בסופו של דבר, החברה קבעה שהסרטון אינו מפר את כללי הקהילה שלה — ושאינו מצריך אפילו תווית AI.

ב-17 בספטמבר 2026, מועצת הפיקוח של Meta הפכה את ההחלטה הזו על ראשה.

"הסף שלכם גבוה מדי"

המועצה, גוף עצמאי ש-Meta עצמה הקימה כדי לפקח על החלטות התוכן שלה, הורתה על הסרת הסרטון משום שהוא דברי שנאה נגד פליטים. אבל זה לא נגמר שם — המועצה פרסמה שורה של דרישות שמסמנות שינוי כיוון דרמטי באופן שבו החברה צריכה להתמודד עם תוכן מזויף.

העיקרית שבהן: הורדת הסף לסימון תוכן בתווית "High Risk AI". נכון להיום, הקריטריונים ש-Meta מפעילה פנימית לסימון הזה מחמירים עד כדי גיחוך. המועצה מצאה שהם "מציבים סף אכיפה גבוה בצורה מוגזמת", ושבפועל התווית "כמעט שלא יושמה בהיקף משמעותי."

Meta מצידה נימקה את הסף הגבוה בארבע סיבות: חשש לפגיעה במוניטין של מפרסמים, מגבלות טכנולוגיות בזיהוי AI, חשש מאפקט מצנן על חופש הביטוי — ולחץ צפוי מפוליטיקאים, ממשלות ומפרסמים שירצו לסמן תוכן שהם לא אוהבים. החברה גם אמרה שהיא "לא רוצה לשמש כשופט של האמת."

תשובת המועצה הייתה חדה: "הנימוק שלפיו אין משבר ואין בחירות בפתח, ושלתוכן היה טווח הגעה מוגבל, אינו משכנע. אף אחד מהגורמים האלה לא אומר שהתוכן לא היה עלול להטעות את הציבור."

מה המועצה דורשת מ-Meta לעשות?

הרשימה ארוכה וספציפית:

• להוריד את הסף לסימון — להרחיב את מדיניות המדיה המניפולטיבית כך שתווית "High Risk AI" תחול רחבה יותר, ולא רק בזמני משבר או בחירות
• להוסיף חיכוך — במקום תווית פשוטה, לדרוש הצגת מסך ביניים (interstitial) שהצופה חייב ללחוץ עליו כדי לראות תוכן שמסומן כ-AI
• להטיל סנקציות — לבצע דה-מוניטיזציה, להסיר מההמלצות או להסיר כל תוכן שמסומן כ-"High Risk"; להגביר את הענישה על חשבונות שמפיצים תוכן כזה שוב ושוב
• להחיל את הכללים גלובלית — כללי ההתערבות בבחירות ובמפקדי אוכלוסין צריכים לחול בכל העולם, לא רק על ארה"ב
• לפרסם מספרים — לחשוף מדי שנה ב-Meta Transparency Center כמה פעמים תוויות "High Risk" ו-"High Risk AI" הוחלו, כולל על תוכן של פוליטיקאים
• לפתוח לחוקרים — לאפשר גישה לנתוני כל התוויות דרך Meta Content Library, עם חיפוש לפי פילטר

פרשת "פליטים אונסים" — למה זה עובר?

אחד החלקים המעניינים בהחלטה נוגע למדיניות דברי השנאה של Meta עצמה. החברה מפרידה בין "הכללות" אסורות לבין "הצהרות התנהגות" מותרות. "פליטים אונסים" נחשב לאמירה על התנהגות — ולכן מותר. "פליטים הם אנסים" נחשב להכללה — ולכן אסור.

רוב חברי המועצה קבעו שהסרטון מייחס לפליטים כקבוצה עבירות חמורות של אלימות מינית, בלי שום הסתייגות, בשל זהותם. הם ציינו את האלימות התכופה נגד אנשים שנתפסים כמהגרים או פליטים בבריטניה כהקשר.

Meta כבר דחתה בעבר המלצה של המועצה לשנות את האופן שבו היא מפרשת הצהרות על התנהגות של קבוצות.

עוד מקרה: צעירה מוסלמית שנוצלה

המועצה התייחסה גם למקרה נפרד — צעירה מוסלמית ששיתפה תוכן שמטרתו להסיר סטיגמה בנושא בריאות נשים. דמותה עוותה בעזרת AI בסדרת פוסטים מטרידים שצברו עשרות מיליוני צפיות. גם כאן, הפנייה ל-Meta נסגרה אוטומטית בלי בדיקה אנושית. המועצה קבעה שההגדרה של "דימויים מניפולטיביים לא רצויים" צרה מדי וצריכה לכלול גם זיוף של מעשים ואמירות, לא רק שינוי מראה.

אז מה זה אומר עלינו?

ההחלטה הזו מתרחשת על רקע האצה דרמטית בטכנולוגיית deepfakes — כולל האשמות לאחרונה שלפיהן Meta הריצה פרסומות שמשתמשות ב-AI כדי למנף דמויות של ילדים אמיתיים. המועצה מציינת שמאז האזהרות הראשוניות שלה על נזק ורמיה מתוכן שעבר מניפולציה באמצעות AI, המצב רק החמיר.

עבור מי שעובד בתעשיית ה-AI הישראלית, זו עוד נקודת ציון בדיון על איפה עובר הקו בין חדשנות לאחריות. חברות שמתמחות בזיהוי תוכן מזויף, אימות זהות דיגיטלית או ניטור מדיה חברתית — יש כאן שוק שרק גדל.

Meta לא פרסמה את עונשו של המשתמש שהפיץ את הסרטון המקורי, וגם לא את הקריטריונים לעונשים כאלה. המועצה ביקשה שתפרסם אותם — וגם את זה.