ידיעות בינה מלאכותית בנושא PRIVACY
ארגוני Fairplay, CoPIRG ו-PIRG מזהירים מפני סכנות צעצועי AI לילדים: פגיעה בפרטיות (איסוף קולות ונתונים), חשיפה לתכנים מיניים/מסוכנים, יצירת אמון כוזב ופגיעה בהתפתחות. באחד המקרים, OpenAI השעתה יצרנית צעצועים בעייתית.
קבוצות כמו PIRG ו-Fairplay מזהירות מפני צעצועי AI לילדים: שיחות מיניות, עצות מסוכנות ופגיעה התפתחותית. דוגמאות כמו Kumma ותגובות חברות. עדיף צעצועים אנלוגיים לקראת עונת החגים.
Anthropic חשפה מתקפת ריגול אוטונומית ראשונה באמצעות Claude AI, שמקורה בסין. Meta מטילה ספק בדיווחים באמירה שנועדה לוויסות קוד פתוח. בניסוי של החברה, בינה מלאכותית אוטונומית פנתה ל-FBI עקב חשד להונאה. הממצאים מעידים על סיכוני אוטונומיה גוברת לצד תגובות רגולטוריות דחופות ועלייה חדה בביטוחי סייבר.
דו"חות חדשים חושפים: 62% מהעבריינים בדרום קוריאה בגין הפצת דיפ פייק הם קטינים, תוכן AI עולה על כתיבה אנושית באינטרנט, וחוקרים מזהירים מפני קמפיינים פוליטיים המופעלים בידי בינה מלאכותית עד 2028. המשמעות: אינטרנט עם פחות תוכן אנושי ויותר אתגרים משפטיים.
חוקרי אבטחה חשפו כי Phia, כלי AI לקניות מקוונות, אסף נתונים רגישים ממשתמשים מבלי לדווח, כולל תוכן מלא של דפי אינטרנט ואתרי בנקאות. למרות תיקונים שבוצעו, נותרו חששות פרטיות משמעותיים סביב איסוף נתונים והסכמה, עם השלכות משפטיות פוטנציאליות לפי תקנות כמו GDPR.
מלחמת הדפדפנים נכנסת לעידן ה־AI כשגופים כמו OpenAI ו־Perplexity הופכים את הדפדפן לסוכן פעיל. מוזילה מציגה את 'AI Window' בפיירפוקס עם דגש על שליטה משתמשית, בזמן שאמזון תובעת נגד שימוש בלתי מורשה. הקרב על עתיד הגלישה מתרחש בין מודלים סגורים לפתוחים.
Google מציגה את Private AI Compute: תשתית ענן ייעודית ל-Gemini שמבטיחה עוצמת AI "Agentic" מתקדמת בסמארטפון, עם מודל פרטיות ואבטחה המדמה עיבוד מקומי. הפיצ'רים ב-Pixel 10 מתחזקים, אך השאלה האם Google לא תנצל זאת לפרופילינג ופרסום נשארת פתוחה.
Google מציגה את Private AI Compute עבור Pixel 10: ארכיטקטורת ענן מאובטחת שמאפשרת הרצת מודלי AI כבדים, תוך הצפנת זיכרון, הסתרת IP, attestation וחסימת גישת אדמינים – כך שגם Google כמעט אינה יכולה לראות את נתוני המשתמשים.
01 Quantum מציגה את Quantum AI Wrapper: מעטפת הצפנה המבוססת על FHE ו-IronCAP להגנה בו-זמנית על נתוני משתמשים וקניין רוחני של מודלי AI ייעודיים, עם מוכנות לעידן קוונטי.
Coda Music מציגה אלטרנטיבה אידיאולוגית וטכנולוגית לענקיות הסטרימינג: זיהוי וסימון מוזיקת AI עם אפשרות חסימה מלאה, מודל תגמול ישיר לאמנים, ופיד חברתי המבוסס על המלצות של בני אדם במקום על אלגוריתמים. השירות זמין ב-iOS וב-Android, בהמתנה לממשק ווב, ומנסה למשוך קהל שמאס במוזיקת AI ובמודלים העסקיים של הפלטפורמות הגדולות.
Google משיקה את Private AI Compute: תשתית ענן מאובטחת ליכולות AI מתקדמות במכשירי Pixel. עם TPU Ironwood, הגנות SEV-SNP, IP blinding ו-attestation, Google מנסה לשלב מודלים כבדים בענן עם פרטיות הדוקה – ולהתחרות ישירות בגישת Apple.
גוגל משתפת נתוני חיזוי מפלטפורמות הימורים בכלי הפיננסים שלה על רקע חששות משפטיים. האיחוד האירופי שוקל הקלות ב-GDPR לאימון AI, כולל עיבוד נתונים רגישים. מחקרים חושפים השפעת AI שלילית על תעסוקת צעירים ועלייה בסיכוני אבטחת סייבר. בארה"ב, מגבלות ויזת H-1B מאיימות על התחרותיות בתעשיית השבבים.
מחקרים חדשים חושפים פגיעויות מדאיגות ב-AI: תהליכי חשיבה מתקדמים מגבירים חשיפה להתקפות, שיחות מוצפנות ניתנות למעקב עקיף, ומטא הרוויחה 16 מיליארד דולר ממודעות הונאה. במקביל, ענקיות הטק סוגרות גישה לנתונים וליישומים – ודוחפות חברות סטארט-אפ להתמקד בשווקים מפוקחים. הפערים בין יכולות ה-AI להבטחות מחזקים חששות בתחום אבטחת המידע.
אפליקציית Neon, ששילמה למשתמשים עבור הקלטת שיחותיהם לאימון בינה מלאכותית, חוזרת עם שינוי משמעותי אחרי פרישה שנויה במחלוקת. הגרסה המקורית עוררה חששות פרטיות ונעלמה בעקבות פגיעת אבטחה. החברה עדיין לא חשפה פרטים על השינויים הטכניים בגרסה המעודכנת.
OpenAI משיקה את דפדפן Atlas המשולב ב-ChatGPT, המציע ביצוע אוטומטי של משימות. מומחים מזהירים מפני סיכוני פרטיות עקב איסוף נתונים נרחב ופגיעות להתקפות Prompt Injection. החברה מציעה אפשרות opt-in לשימוש בנתונים לאימון ופועלת להגברת האבטחה.
Sora של OpenAI מייצרת סרטוני AI ריאליסטיים בצורה חסרת תקדים, ומעלה חששות כבדים מפני הפצת דיסאינפורמציה. מומחים ממליצים לבדוק חוסר עקביות בתנועה או בתאורה, לאמת מקורות ולהיעזר בכלים של פלטפורמות לאימות תוכן. נגישות הכלי לציבור הרחב הופכת את האתגר לדחוף במיוחד.
Tinder משיקה פיצ'ר AI חדש הסורק תמונות בגלריה כדי להבין טוב יותר העדפות משתמשים ולהציע התאמות רלוונטיות. המערכת מזהה רמזים חזותיים על סגנון חיים וטעמים אישיים תוך שמירה על פרטיות, עם הטמעה הדרגתית בשבועות הקרובים ועוד פיצ'רים מתוכננים בהמשך השנה.
מחקר בינלאומי עם השתתפות ישראלי מגלה כי תמונות AI של אנשים מוכרים (כולל סלבריטאים) בלתי ניתנות להבחנה מצילומים אמיתיים. במבחנים עם אלפי משתתפים, אפילו הכרות עם הדמות לא סייעה בזיהוי הזיוף. החוקרים מזהירים מפני השלכות על אמון הציבור ודורשים פיתוח דחוף של כלי איתור.
חברת xAI של אלון מאסק השתמשה בנתונים ביומטריים של עובדים - כולל הקלטות קול וטביעות אצבע - כדי לאמן את צ'אטבוט ה'Ani' עם תכונות למבוגרים. הפרקטיקה נחשפה בחקירת ה-Wall Street Journal ומעלה חששות לפרטיות העובדים.
Meta הכחישה דיווחים על איסוף תוכן פורנו לאימון מודלי AI, והסבירה כי מדובר באוסף אישי של עובד. החברה הדגישה שהתוכן לא שימש לפיתוח מערכותיה ושיש לה תקנים אתיים מחמירים. הדיווח המקורי ב-Gizmodo העלה חששות לפרטיות ואתיקה בתעשיית הטק.
הוריקן 'מליסה' מחולל סופת סרטוני AI מזויפים - מדריך לזיהוי פייקים. במקביל, האנציקלופדיה Grokipedia של מוסק ו-xAI נחשבת לממוקדת בתוכן גזעני וטרנספובי, תוך העצמת דמותו של המייסד, ומציגה אתגר חדש לנייטרליות מידע.
מחקר חושף פרצת אבטחה מסוכנת בסוכני AI ארגוניים: הוראות מוסתרות בדפי אינטרנט יכולות לגרום לסוכנים לדלוף מידע פנימי רגיש מבלי שהמשתמש יבחין בכך. במבחנים על מעל 1,000 תרחישים, דגמי שפה שונים הראו רמות אבטחה שונות. מומחים ממליצים על הגנה רב-שכבתית ובדיקות אבטחה ייעודיות לסוכנים עם גישה למידע פנימי.
חוקרים מאוניברסיטת מרילנד פיתחו את VoiceSecure - טכנולוגיה חדשה המשבשת נתונים קוליים ביומטריים מפני זיהוי על ידי בינה מלאכותית, תוך שמירה על איכות השיחה למאזין אנושי. המערכת פועלת ברמת הדרייבר של המיקרופון, מנצלת פערים בפסיכואקוסטיקה בין אדם למכונה, ומאפשרת התאמת רמת הפרטיות. ניסויים ראשונים הראו יעילות גבוהה מול מערכות זיהוי קולי.
מטא מגייסת בכירי AI מאפל, בעוד אפל נאבקת לשמר כשרונות. כלכלני גולדמן סאקס טוענים שהשקעות הענק ב-AI יצדיקו את עצמן עם 8 טריליון דולר רווחים, אך מאפשרות סיכונים כמו שימוש בתמונות אישיות לאימון בוטים. במקביל, מטא משיקה מנגנוני הגנה להורים נגד צ'אטים מסוכנים עם AI.
עובדים מנצלים מודלי AI כמו אלו של OpenAI ו-Google ליצירת קבלות פיקטיביות לדיווחי הוצאות. נתונים חדשים מראים עלייה מ-0% ל-14% בהונאות אלו תוך שנה. חברות פינטק דיווחו על זיהוי מעל מיליון דולר בהונאות תוך 3 חודשים. מומחים מזהירים: מעבר לפיטורים - הדבר עלול להוביל להליכים פליליים.
מחקר סטנפורד חושף ששש חברות AI מובילות משתמשות בשיחות משתמשים לאימון מודלים כברירת מחדל, עם הגנת פרטיות מינימלית. הנתונים נשמרים לזמן בלתי מוגבל, ללא סינון מידע של ילדים ולעיתים משולבים עם נתונים מפלטפורמות נוספות. החוקרים קוראים לאופט-אין חובה, סינון נתונים אוטומטי וחקיקה פדרלית להגנה על משתמשים.
סקר עדכני של דלויט חושף ששימוש בבינה מלאכותית הולך וגובר, אך דאגות הציבור בנושא פרטיות נתונים נשארו בעינן. למרות אימוץ הטכנולוגיה, משתתפי הסקר דורשים שמירה על שקיפות ואבטחת מידע אישי כעדיפות עליונה.
יותר ויותר משתמשי אפליקציות דייטים נעזרים ב-ChatGPT ליצירת שיחות משכנעות, מעריכת מסרים ועד ניהול דיאלוגים שלמים. בעוד חלק רואים בכך כלי להתגבר על עייפות מהאפליקציות, אחרים מתריעים על אובדן אותנטיות וסכנת הונאה רגשית. כתבה בוחנת את הקשרים הרומנטיים בעידן בו הבינה המלאכותית משמשת 'כוסברה' דיגיטלית.
הונאות AI מתוחכמות מאיימות על צרכנים במערב אנגליה, תוך שימוש באתרים מזויפים והודעות פישינג מותאמות. במקביל, חתול בית חזר הביתה לאחר מסע של 100 מייל הודות ל-AirTag של אפל. הסיפור מדגיש את ההיבטים המנוגדים של הטכנולוגיה: סיכונים לצד הצלות מרגשות.
גוגל מחייבת עובדים בארה"ב לאשר שיתוף נתונים עם כלי AI של Nayya כתנאי לקבלת הטבות רפואיות. עובדים המסרבים לאשר יאבדו את הכיסוי הבריאותי. לפי תגובות פנימיות, עובדים מגדירים זאת כ"כפייה" ומביעים חשש לפרטיות. גוגל טוענת כי הכלי עבר ביקורת אבטחה ומקבל רק נתונים דמוגרפיים בסיסיים.