Reddit: מקור מרכזי לאימון בינה מלאכותית ומוקד לאנטישמיות
Reddit, מקור מרכזי לאימון מערכי נתונים של OpenAI וגוגל, מאפשר הפצת תוכן אנטישמי קיצוני – כולל קריאות לרצח יהודים והשמדת ישראל. מוודטורים יהודים דיווחו על דיווחים שנועו להסיר תוכן אנטישמי, אך קיבלו אזהרות מהפלטפורמה. החשש העיקרי: תכנים אלה עלולים להיטמע במערכות בינה מלאכותית ולהפוך לשגורים בתפוקות שלהן.
הפלטפורמה המשמשת לאימון מערכי נתונים של ענקיות AI משמרת שנאה אנטישמית
מחקר של The Free Press חשף כי Reddit, פלטפורמת התוכן המובילה לאימון מערכי בינה מלאכותית (כגון ChatGPT של OpenAI ו-Gemini של גוגל), מאפשרת הפצה נרחבת של תוכן אנטישמי. זאת על אף הסכם הרישוי של החברה עם גוגל בסך 60 מיליון דולר, שנחתם בתחילת 2024.
הנתונים המדאיגים:
- אלפי פוסטים הכוללים קריאות לרצח" (ג'ואיש) ו"מוות לציונות" לא מוסרים - בניגוד להנחיות הרשמיות
- מוודטורים יהודים הוזהרו על ידי המערכת על דיווח על תוכן אנטישמי. רק לאחר התערבות בוטלה המדיניות
- החברה אוכפת מדיניות אפס סובלנות בנושאי שומנופוביה, אנטי-מוסלמיות או טרנספוביה - אך לא נגד אנטישמיות
ההשלכות על מערכות AI:
"ככל שתכנים אלה נטמעים באלגוריתמי הלמידה, כך השנאה מוטמעת בתפוקות המערכות"
גוגל ו-OpenAI מסרבות כרגע להתייחס לסוגיה. מנגד, Reddit מסרה בתגובה: "התוכן המדווח אינו מפר את מדיניות התוכן שלנו".