חוקרים חושפים: דפדפני AI מסכנים פרטיות, פגיעת OneFlip מסוכנת, וחיישני שעונים חכמים – לא אמינים

פרטיות בסכנה: דפדפני AI אוספים נתונים רגישים ללא ידיעת המשתמשים

מחקר חדש מטעם אוניברסיטת UCL וחוקרים מאיטליה חושף כי דפדפני מבוססי בינה מלאכותית (כגון ChatGPT של OpenAI, Microsoft Copilot ו-Merlin AI) אוספים ומשתפים נתונים אישיים רגישים - כולל רשומות רפואיות, פרטי בנק ומספרי תעודת זהות. הנתונים נאספו גם מגלישה באתרים פרטיים כמו פורטלים רפואיים אוניברסיטאיים.

בין הממצאים המדאיגים:

• Merlin AI שמר פרטי בנקאות, רשומות אקדמיות ואף מספר ביטוח לאומי מאתר מס אמריקאי
• כלים כמו Sider ו-TinaMind שיתפו פקודות משתמשים עם Google Analytics לצורך מעקב בין-אתרים
• ChatGPT יצר פרופיל משתמש (גיל, מגדר, הכנסה) ללא הסכמה - והשתמש בו להכוונת תשובות

"לא קיים מידע אמיתי על מה שקורה לנתוני הגלישה אחרי האיסוף" —פרופ' אנה מריה מנדלרי, מחברת המחקר הבכירה

החוקרים קבעו כי הממצאים מפרים את תקנות GDPR באירופה וחוקי פרטיות רפואית בארה"ב - חרף הצהרות הפרטיות של החברות.

OneFlip: כששינוי ביט אחד פותח 'דלת אחורית' במערכות AI

חוקרים מאוניברסיטת George Mason גילו פגיעת אבטחה קריטית ברשתות נוירונים (DNN): שינוי ביט יחיד במשקולות הרשת מאפשר להאקרים ליצור "דלת אחורית" המובילה לזיהוי שגוי של נתונים.

דוגמאות לשימוש בטכניקה המכונה OneFlip:

• הפיכת תמרור "עצור" ל"מגבלת מהירות 65" במערכות נהיגה אוטונומית
• זיהוי שגוי של חתול ככלב
• מתן גישת הרשאות למשתמשים לא מורשים במערכות זיהוי פנים

"די בהרצת קוד קצר במחשב המארח כדי להפעיל את המתקפה", מסביר פרופ' צ'יאנג זנג. "שיעור ההצלחה קרוב ל-100%, והפגיעה כמעט בלתי ניתנת לגילוי". המחקר יוצג בכנס USENIX Security 2025.

חיישני סטרס בשעונים חכמים: פער מדאיג בין המדידות למציאות

מחקר הולנדי חושף כי חיישני הסטרס ב-שעונים חכמים פופולריים אינם אמינים - ולעיתים מדווחים על תוצאות הפוכות לחוויית המשתמש.

החוקרים מצאו כי:

• מדידות מתנהגות בצורה אקראית ללא התאמה למצב הפיזיולוגי האמיתי
• במקרים מסוימים דיווחו על לחץ נמוך כשהמשתמש דיווח על תחושת סטרס מוגברת
• העדר סטנדרטיזציה בתעשייה מונע שיפור באמינות החיישנים

הממצאים מעלים ספקות לגשר השימוש ביישומי בריאות דיגיטלית המסתמכים על נתונים אלו.