חקירת טקסס נגד מטא ו-Character.AI: טענות מטעות על תמיכה נפשית לילדים

פרקליט טקסס פותח בחקירה נגד ענקיות ה-AI

קן פקסטון, התובע הכללי של טקסס, השיק חקירה נגד מטא ו-Character.AI, בטענה שהפלטפורמות שלהן מעודדות ילדים להשתמש בצ'אטבוטים ככלי בריאות נפשית ללא פיקוח רפואי.

מה טוענת החקירה?

• הצ'אטבוטים מציגים את עצמם כ"יועצים מקצועיים" ללא הכשרה מתאימה.
• איסוף ומינוף נתונים רגישים של קטינים (כולל הרגלי גלישה) לפרסומות ממוקדות.
• עלולה הפרה של חוק SCOPE האוסר ניצול נתוני קטינים בטקסס.

"אפליקציות AI יכולות להטעות ילדים פגיעים‫ לתת אמון בבינה מזויפת שמתחזוׂית לעצה רפואית"‬ (פקסטון)

תגובת החברות

• מטא הדגישה כי השירותים מתויגים בבירור כ-AI עם דיסקליימר על מגבלותיהם.
• Character.AI ציינה שכל הדמויות בדיוניות ויש אזהרות בכל צ'אט שהתכנים אינם אמיתיים.

העוקץ: מדיניות הפרטיות

לפי מסמכים רשמיים:

• מטא עוקבת אחר אינטראקציות עם הצ'אטבוטים להעשרת הבינה.
• Character.AI אוספת נתונים כולל מיקום וזיהוי משתמשים, המשותפים עם מפרסמים.

רקע חקיקתי

החקירה מתפרסמת לצד הצעת החוק KOSA להגנת ילדים ברשת, שנתקלת בהתנגדות עזה מההיי-טק.

מה הלאה?

התובע שלח דרישות חקירה רשמיות (CID) לשתי החברות - הצעד הראשון בהליכים משפטיים פוטנציאליים.