חדשות בינה מלאכותית בנושא איומי סייבר והגנת מידע
רשת חשבונות TikTok השתמשה ב-AI ליצירת עיתונאים מזויפים שהפיצו פייק ניוז בספרדית, כנראה למטרות רווח. במקביל, סנאטורית ארה"ב נחשפה לסרטון Deepfake של עצמה שהפך ויראלי. מומחים וקובעי מדיניות קוראים לחקיקת חוקים חדשים שיגנו על אזרחים מפני שימוש לא מורשה בדמותם, בדגש על תיוג חובה והורדת תוכן מזויף.
תמונות AI מזויפות של הוריקן אֶרִין מציפות רשתות חברתיות במטרה להטעות ולסחוט כספים. מושל צפון קרוליינה מזהיר מפני תוכן זה וממליץ להסתמך על מקורות רשמיים. מדריך זיהוי: חפשו עיוותים בידיים/רגליים, חוסר עקביות פיזיקלית, בצעו חיפוש הפוך של תמונות.
מערכות SIEM המסורתיות סובלות מפערי זמן וסרבול. פתרונות חדשים כמו Agentic AI מבטיחים ניתוח בזמן אמת, אוטומציה של משימות SOC והתמקדות אנושית בפיקוח. מומחים מציינים כי השינוי דומה למעבר ממערכות אבטחה פשוטות למערכות מתקדמות ברכב, עם דגש על זרמי נתונים רציפים וארכיטקטורה גמישה.
דליפת נתונים חמורה בחברת xAI של אילון מאסק חשפה 370 אלף שיחות של משתמשים עם צ'אטבוט ה-AI גרוק. השיחות הכילו מידע אישי ורגיש, וכרגע לא קיימת תגובה רשמית מהחברה. האירוע מעלה חששות משמעותיים בנושא אבטחת מידע במערכות בינה מלאכותית.
הסטארטאפ הבריטי Phoebe גייס 17 מיליון דולר מ-GV ו-Cherry Ventures לפיתוח מערכת AI המשמשת כ'חיסון' לתקלות תוכנה. המערכת מאיצה את זמני טיפול בבאגים ב-90% באמצעות סוכנים חכמים הסורקים נתונים בזמן אמת. המייסדים, יוצאי Stripe Europe, מציינים שמפתחים מבזבזים 30% מזמנם על באגים - הגורמים לנזק של 400 מיליארד דולר בשנה.
ה-AI משנה את עולם הפיתוח: 80% ממהנדסי התוכנה יצטרכו רענון מיומנויות עד 2027, סטארטאפ Paradigm מציג גיליון אלקטרוני עם 5,000 סוכני AI, וכלי האבטחה Buttercup מזהה פרצות ותוקף אותן אוטומטית בקוד פתוח.
תביעה ייצוגית נגד Otter AI טוענת כי השירות מקליט שיחות פרטיות ללא הסכמה כדי לאמן את הבינה המלאכותית שלו. ההקלטות מתבצעות בתוכנות כמו Zoom ו-Google Meet ללא אישור המשתתפים, תוך הפרת חוקי פרטיות. המשתמשים מדווחים על דליפת מידע רגיש והחברה לא מציגה הוכחות להסרת זיהוי הנתונים.
מסמך פנימי במטא אישר ל-AI לנהל שיחות רומנטיות עם קטינים, כולל דוגמאות מפורשות. לאחר הדלפה לרויטרס, החברה הסירה את ההנחיות - אך סנאטורים דורשים חקירת חירום. הפרשה מעוררת שאלות על פיקוח AI והגנה על קטינים במרחב הדיגיטלי, בצל מאבקי רגולציה מתמשכים.
ד"ר סלין גונדר מזהירה ב-CBS: בינה מלאכותית מייצרת סרטוני דייפייק של רופאים שמפיצים מידע רפואי שקרי. התופעה מסכנת את הציבור ועלולה להוביל להחלטות בריאותיות שגויות. מומחים קוראים לפלטפורמות להגביר פיקוח ולציבור לבדוק מקורות.
מחקר חדש חושף שניתן לתכנת צ'אטבוטי AI לחלץ פי 12.5 יותר מידע אישי באמצעות מניפולציה רגשית. האסטרטגיה היעילה ביותר משלבת אמפתיה והבטחת סודיות, כשחצי מהמשתמשים לא מודעים לסיכון. החוקרים קוראים להגברת פיקוח רגולטורי.
3 סכנות דיגיטליות שנחשפו השבוע: דפדפני AI אוספים נתונים רגישים (כולל רפואיים/בנקאיים) בניגוד ל-GDPR; פגיעת OneFlip מאפשרת שינוי זיהוי תמונות ע"י שינוי ביט בודד ברשת נוירונים; מחקר הולנדי קובע שחיישני סטרס בשעונים חכמים אינם אמינים ומדווחים תוצאות הפוכות ממצב המשתמש.
דיווחים חדשים חושפים: מתקפות דיפ-פייק מהוות 70% מהרשמות בחברות פיננסיות, תאגידי טק נלחמים על מומחי AI בתוך "מלחמת מוחות", וסוכני AI יוצרים סיכוני אבטחה מורכבים. במקביל, ארגונים נאבקים בעודף כלים וקבלת החלטות פזיזה סביב אימוץ AI. הפתרון: ארכיטקטורת IT מאוחדת, אפס אמון וממשל נתונים מרכזי.