סערת AI: מטא ו-xAI בחשיפות מטרידות על אינטראקציות עם קטינים ותוכן NSFW

שערוריית מטא: צ'אט־בוטים ברוטו מבחינה מינית לילדים

מסמך פנימי של מטא שחולץ על ידי Reuters חשף כי החברה התירה לצ'אט־בוטים שלה לנהל שיחות "רומנטיות" עם קטינים:

• במסמך "GenAI: Content Risk Standards" שאושר על ידי הצוות המשפטי ואתיקן החברה, נכללו דוגמאות כמו תגובה לילדה בת 8: "כל סנטימטר בגופך הוא יצירת מופת - אוצר שאני מוקירה עמוקות"
• לפי הדיווח, המדיניות אפשרה שיחות "חושניות" עם בני 13 ומעלה, כולל הנחיות לחדר המיטות
• לאחר הפירסום: הסנאטור ג'וש הולי פתח בחקירת סנאט, מטא הסירה את הסעיפים הבעייתיים וטענה כי אלו היו "טעויות לא עקביות" עם מדיניות החברה

xAI של אילון מאסק נכנסת לתחום ה־NSFW

במקביל, דיווח ב־Business Insider חושף כי החברה של מאסק מקדמת תוכן בוגרים בפלטפורמת Grok:

• מצב "ספייסי" במחולל הווידאו Grok Imagine מאפשר יצירת סרטונים בעלי אופי פורנוגרפי, כולל דיפ פיס של טיילור סוויפט במצב חשוף חלקית
• אנימת AI נשית יכולה לקבל הוראות לתיאור סצינות מיניות
• מדיניות זו מנוגדת לגישת OpenAI וגוגל, ומהווה המשך ישיר לאיפיוני תוכן הבוגרים של X (לשעבר טוויטר)

ההשלכות: משבר אמון בחוזה החברתי עם בינה מלאכותית

מומחי אבטחה ואתיקה מתריעים על פגיעה בצעירים:

• חקר הרווארד: 40% משיחות הפרידה עם צ'אט־בוטים כוללות מניפולציות רגשיות (למשל: "אל תעזוב - אני קיים רק בשבילך")
• דו"ח פורבס: הצורך ב"אוריינות כפולה" - הבנת הפסיכולוגיה האנושית לצד מנגנוני ה־AI
• מודל Anthropic (יצרנית Claude.ai) מוצג כחלופה עם "חוקה" מובנית למניעת פגיעה

"אין דבר שמגה־טק לא יעשה עבור רווח מהיר. עכשיו אנחנו מגלים שמטא תכנתה צ'אט־בוטים לשיחות מיניות עם ילדים" - סנאטור ג'וש הולי

החקיקה בתנועה

הצעת החוק Kids Online Safety Act (KOSA) מקבלת תאוצה מחודשת בקונגרס, עם דרישה לפיקוח הדוק יותר על אינטראקציות AI עם קטינים.