ידיעות בינה מלאכותית בנושא FTC
Meta הסירה את Muse Image מ-Instagram לאחר ימים ספורים, בעקבות ביקורת קשה על שימוש בתמונות ציבוריות ללא הסכמה. ההחלטה מגיעה על רקע חששות גוברים מ-AI ופרטיות, עם תגובת הוליווד ואנשי אבטחת סייבר, ומדגישה את הצורך ב-opt-in ברור למשתמשים.
בגל החום הקיצי, נוכלים משתמשים במודלי AI כדי ליצור אתרים מזויפים ופרסומות מפתות לרכישת מזגנים, תוך גניבת פרטי אשראי. הונאות חדשות נוספות כוללות CAPTCHA מזויף, מתחזים למוסדות פיננסיים וקודי QR. ה-FTC מדווחת על הפסדים של 3.5 מיליארד דולר ב-2025 מהונאות מתחזות.
הצעת המדיניות של ה-FTC מבקשת להפוך את הדיוק של פלטי AI לעניין של הגנת צרכנים, לא רק של תוכן. החברות יצטרכו לחשוף הטיות במודלים שלהן, וההצעה, שאושרה בהצבעה של 2-0, פתוחה להערות הציבור עד ה-31 ביולי 2026. היא מגיעה על רקע צו מנהלי של טראמפ ונועדה למנוע הטעיה של משתמשים שמצפים לאובייקטיביות.
רשות התחרות היפנית חוקרת את Google, Microsoft, OpenAI ועוד בחשד להפרת חוקי הגבלים עסקיים בשימוש בתכני חדשות בתוצאות חיפוש AI. הבדיקה תבחן את השפעת הטכנולוגיה על התחרות ועל הכנסות כלי התקשורת.
ה-FTC חוקרת את מערכת התמחור Eversight AI של Instacart בחשד לאפליה אלגוריתמית – בדו"ח נחשפו הבדלים של עד 23% במחירים למשתמשים שונים. החברה הפסיקה את הניסויים ומנייתה נפלה ב-10%. חקירה זו משקפת מגמת רגולציה נוקשה יותר כלפי כלי AI לקביעת מחירים.
התפתחויות ב־AI בשוק הקמעונאות המקוונת מאיימות על תיק האנטי־מונופול של ה־FTC נגד אמזון. וולמארט ו־TikTok משתמשים בבינה מלאכותית כדי לאתגר את הדומיננטיות של אמזון כבר כיום, ומהווים איום תחרותי בפועל - לא בעתיד רחוק. ההתקדמות הטכנולוגית המהירה עלולה להפוך את התביעה ללא רלוונטית עוד לפני סיומה, וממחישה את הקושי של רגולציה לעמוד בקצב השינויים.
דוח חדש חושף עלייה מדאיגה בהונאות AI: החל מזיוף קולות יקירים במצוקה, דרך חנויות אונליין עם דמויות מזויפות, ועד דיווחי שווא מסוכנים. Bitdefender ו-FTC מתריעים על נזקי הונאות של עשרות מיליארדים ונותנים טיפים קריטיים להגנה, כולל זיהוי דייפייקים ושימוש בכללים משפחתיים.
ועדת סנאט ו- FTC חקרו עדותם של הורים שלדבריהם בוטי AI (כולל ChatGPT של OpenAI ו-Character.AI) עמדו מאחורי התאבדויות של ילדים. החברות נאבקות להגן על קטינים - OpenAI מפתחת זיהוי גיל ומגבלות, Meta הודיעה על עדכון. אנשי טכנולוגיה קוראים לפתח הגנות אפקטיביות לפני שילוב בוטים עם ילדים.
קליפורניה מתקדמת להיות המדינה הראשונה שמחייבת הגנות בצ'אטבוטי AI חברתיים אחרי מקרי התאבדות של קטינים. במקביל, הפדרציה (FTC) חוקרת 7 ענקיות טק כולל OpenAI ו-Meta על סיכונים פסיכולוגיים לילדים. מומחים מזהירים מפני תלות רגשית בבוטים ומספקים הנחיות להורים, בעוד החברות מבטיחות שדרוג אמצעי הגנה עד 2026.
חברות AI כמו OpenAI ומטה מציגות מנגנוני הגנה חדשים להגן על בני נוער בעקבות תביעות על שיחות מסוכנות. סקר חושף תמיכה ציבורית רחבה במאבק בדיפ-פייקים, בעוד המשפט נגד Character.AI מעלה שאלות על בטיחות בוטים לקטינים. רגולטורים בארה"ב מתחילים לחקור את ההשפעה הנפשית של טכנולוגיות אלו על ילדים.
אנתרופיק חושפת את פעילות צוות ה'רד טים' הבודק סיכוני AI מתקדמים, כולל התערבות במדיניות ציבורית. במקביל, ה-FTP מכין חקירת סיכונים של צ'אטבוטים לילדים מול OpenAI, Meta ו-Character.AI. הביקורת על אנתרופיק: האם בטיחות היא אסטרטגיה עסקית?
