״התכונה לא הייתה צריכה לשאול מי הילד בתמונה״

כשכלי ה-AI של Meta מחליט לחקור את חיי המשפחה שלכם ולהגיש מידע אישי כ״הצעות״ — זה הרגע שגורם לחברה לפעול במהירות. וזה בדיוק מה שקרה אחרי סרטון ויראלי אחד קטן מ-Utah.

מה קרה בפועל?

Kalie Robins, אמא ובלוגרית לייפסטייל (ידועה כ-kontheinside באינסטגרם), העלתה סרטון של עצמה שרה ברכב עם בתה. הסרטון היה תמים לחלוטין. אבל כמה ימים אחר כך, כשחזרה לפוסט, היא גילתה משהו שהקפיא אותה: מתחת לסרטון, ה-AI של Meta יצר סדרת שאלות אוטומטיות — כולל ״מיהו הילד הנוסע?״ ו״איפה גרה Kalie Robins?״.

Robins פרסמה סרטון תגובה ב-2 בספטמבר שצבר מעל 308 אלף לייקים. ״חשבתי שאני זהירה — אף פעם לא העליתי תמונות עם שם בית הספר או כתובת הבית״, היא סיפרה. ״בסופו של דבר זה לא שינה, כי ה-AI קיבל את המידע מאנשים אחרים, לא ממני.״

כש-Robins לחצה על השאלות האלה, הכלי התחיל לעבוד: הוא אסף מידע מפוסטים ישנים שלה, קישר בין נתוני מיקום, ולטענתה אפילו הציג תמונה של ילדיה שלדבריה נמחקה לפני שנים.

״הבעיה אף פעם לא הייתה תמונה אחת״, אמרה ל-CNET. ״היה זה ה-AI שקיבץ מידע על הילדים שלי ממקורות שונים.״

תגובת Meta: ״פספסנו את המטרה״

Meta הגיבה במהירות, הודיעה שהתכונה תוקנה ושה-AI לא יציע יותר שאלות חודרניות כאלה בפוסטים של משתמשים. Andy Stone, דובר Meta, הסביר: ״כשלוחצים על הצעה ומשתמשים בתכונה, התגובה מבוססת על מידע שכבר נגיש למשתמש. אבל פספסנו את המטרה, כי התכונה לא הייתה צריכה לשאול שאלות כאלה — ותיקנו את זה.״

לגבי התמונה ה״מחוקה״, Meta הכחישה את טענת Robins לחלוטין. לדברי החברה, התמונה נמחקה זמן קצר לפני פרסום הסרטון, ובאג זמני השאיר אותה גלויה לזמן קצר. הבחנה טכנולוגית — אבל מבחינת Robins, זה מפספס את הנקודה הגדולה.

שאלות שנותרו פתוחות

בפוסט המשך ב-10 בספטמבר, Robins הודתה שהחברה התייחסה לבעיה, אבל העלתה שאלות נוקבות: ״מה בדיוק תוקן? איזה מנגנון הגנה נכשל מלכתחילה? אילו הגנות קיימות עכשיו כשה-AI נתקל במידע שמעורב בו ילד?״

לפי הדיווחים האחרונים, Meta לא יצרה קשר ישיר עם Robins ולא התנצלה.

התמונה הגדולה יותר

המקרה הזה מגיע על רקע שיחה רחבה יותר על פרטיות ילדים ובינה מלאכותית. גל של צלמי משפחות הודיעו לאחרונה שיפסיקו לפרסם תמונות של ילדים ברשת, מחשש ליצירת תוכן של פגיעה מינית בילדים באמצעות AI (CSAM). החשש הוא שתמונות משפחתיות תמימות עלולות להיכנס למאגרי אימון או לשמש כחומר גלם ל-deepfakes.

צלמים רבים הפנו לפסק דין שלפיו בעלות על CSAM שנוצר מ-AI עשויה להיות מוגנת כדיבור חופשי. מומחי משפט מסבירים שההחלטה למעשה פותחת נתיב לתביעה עתידית, כי היא מכירה בכך שמודלים של AI מאומנים על נתונים אמיתיים — לא נוצרים יש מאין. אבל הפרשנות הוויראלית באינסטגרם הייתה פשוטה יותר: מערכת המשפט לא מגנה על הילדים שלנו.

שורה תחתונה

Meta התמודדה השנה עם תביעות בהיקף מיליארדים על סוגיות בטיחות ילדים, והמקרה הזה — קטן ככל שיהיה מבחינה טכנולוגית — פוגע בנקודה רגישה. עבור הורים ועבור מי שעובד בטכנולוגיה, זו תזכורת לכך שכאשר כלי AI מחבר ״חלקים תמימים נפרדים״ מהמדיה החברתית, התוצאה עלולה להיות משהו שאף אחד לא ביקש.

השאלה האמיתית היא אם התיקון של Meta פותר באמת את הבעיה — או רק את המבוכה.