כשהתיכון בוער רק על המסך: התרעת שווא בטקסס חושפת את איום ה-Deepfake על בתי הספר

תיכון בוער – רק שבמציאות לא קרה כלום

ברחבי רשתות חברתיות בטקסס הופצה השבוע תמונה דרמטית: בניין תיכון Bellaire עומד בלהבות, עשן כבד, כבאים בשטח. הורים נבהלו, טלפונים הוצפו, קהילה שלמה נכנסה למצב חירום.

רק פרט קטן אחד היה חסר: לא הייתה שריפה.

התמונה הייתה יצירה של בינה מלאכותית – AI-generated image – שהופצה ללא הקשר ברור, בדיוק בזמן שבו בבית הספר טופלה תקלה טכנית אמיתית: דליפת פריאון שהפעילה את מערכת האזעקה. כוחות כיבוי הגיעו, בדקו, וקבעו שאין שריפה. אבל בזמן שהמציאות נרגעה, הרשת כבר דלקה.

המשטרה המקומית ובית הספר הוציאו הודעות רשמיות: "אין שריפה, כל התלמידים והצוות בטוחים". אבל כמו שקורה יותר ויותר בעידן הוויראלי, ההכחשה מגיעה תמיד אחרי שהבהלה כבר עשתה את שלה.

זה לא מקרה בודד – זה סימפטום

האירוע ב-Bellaire מצטרף לשורה של תקריות דומות בשנים האחרונות, כמו התמונה המזויפת של "פיצוץ" ליד הפנטגון ב-2023, שהופצה מחשבונות מאומתים וגרמה לבלבול גם בתקשורת וגם בשווקים.

המכנה המשותף: תמונות שנראות מספיק אמיתיות כדי לעקוף את האינסטינקט הבריא של ספקנות. והפעם – היעד הוא אחד המקומות הרגישים ביותר: בית ספר.

John Cohen, לשעבר בכיר במחלקת ביטחון המולדת בארה"ב, מסביר שהמערכות הציבוריות פשוט לא הדביקו את קצב ה-AI: ארגונים ממשלתיים, בתי ספר ואפילו כוחות הביטחון "מאחורי העקומה" בכל הנוגע להתמודדות עם איומים מתכנים שנוצרים או מועצמים על ידי בינה מלאכותית.

לדבריו, כמו שבתי ספר מתרגלים תרחישי ירי, איומי פצצה ושריפות – הם צריכים עכשיו גם פרוטוקולים ברורים להתמודדות עם דיסאינפורמציה ויזואלית בזמן אמת.

הבעיה: AI חזק מדי, זמין מדי, לכולם

Jeffrey McGregor, מנכ"ל Truepic – חברה שמפתחת טכנולוגיות לאימות תמונות ולזיהוי מניפולציות – מתאר מציאות פשוטה ומדאיגה:

"יש לכם את ה-AI החזק ביותר בהיסטוריה בידיים של כל אדם המחובר לרשת, כולל תלמידי תיכון. היכולת לייצר תמונות סינתטיות, ריאליסטיות לחלוטין – זמינה מיידית לכולם".

המשמעות:

• כל תלמיד יכול "לייצר" שריפה, ירי, מעצר מורה, או כל אירוע חמור – תוך דקות.
• תמונה אחת משוגרת בקבוצת WhatsApp של הורים או ב-Instagram, ומיד נוצרת פאניקה.
• גם אם ההפרכה מגיעה מהר – הנזק הרגשי והבזבוז המשאבי כבר קרו.

במילים החריפות של McGregor: "אף אחד לא צריך להאמין למה שהוא רואה יותר" – לפחות עד שהטכנולוגיות לאימות מקור ואותנטיות יוטמעו ברמה רחבה.

מה בתי ספר צריכים לעשות – ולא רק בארה"ב

הסיפור מטקסס הוא לא אנקדוטה רחוקה. עבור מערכת החינוך בישראל – מתיכונים בגוש דן ועד חטיבות בפריפריה – התרחיש הזה רלוונטי לחלוטין:

• תמונה מזויפת של שריפה או ירי.
• סרטון Deepfake של מנהל אומר משהו קיצוני.
• הודעה כביכול רשמית על ביטול לימודים או איום ביטחוני.

כל אלה יכולים לייצר כאוס מקומי תוך דקות.

כדי לצמצם נזק, כמה עקרונות מפתח עולים מהאירוע ב-Bellaire ומהאזהרות של המומחים:

1. הגדרת ערוץ רשמי אחד:

   • אתר בית הספר, אפליקציה רשמית, SMS חתום או ערוץ Telegram/WhatsApp מאומת.
   • ההורים והתלמידים צריכים לדעת: רק פה בודקים מה אמיתי.

2. שיתוף פעולה עם רשויות:

   • פרוטוקול קבוע עם המשטרה והרשות המקומית: מי מאשר, מי מוציא הודעה, תוך כמה זמן.

3. חינוך לספקנות דיגיטלית:

   • לשלב בשיעורי אזרחות/מדעי המחשב: מה זה Deepfake, איך מזהים סימני אזהרה, למה לא משתפים מיד.

4. סימולציות ודיאלוג פתוח:

   • כמו תרגיל פינוי – תרגיל "שמועת שווא": מה עושים כשהורים מוצפים בתמונות קשות ברשת.

5. אימוץ טכנולוגיות אימות:

   • בעולם כבר מתפתחים סטנדרטים כמו C2PA, חתימות דיגיטליות לתמונות וסרטונים וכלי fact-checking אוטומטיים.
   • זה השלב שבו רשויות חינוך צריכות להתחיל לחשוב איך מטמיעים כלים כאלה גם אצלנו.

ולנו כגולשים, כהורים וכקהילה – יש כלל אחד פשוט

עד שפתרונות טכנולוגיים רחבים יהיו זמינים, האחריות זולגת גם אלינו. ההמלצות מהמומחים רלוונטיות מאוד גם לשיח הישראלי:

• רואים תמונה דרמטית? לעצור.
• לבדוק: האם יש הודעה רשמית? האם מקור התמונה אמין? האם זה נראה קצת "מושלם" מדי?
• לא לשתף מיד, גם לא בקבוצת ההורים.

בעידן שבו כל אחד יכול להדליק "שריפה" דיגיטלית תוך שניות, דווקא הספק – וההתעקשות על מקור אמין – הופכים לכלי הבטיחות החשוב ביותר.