ידיעות בינה מלאכותית בנושא SECURITY INCIDENT
מחקר שדה חדש עם 27 חברי בוקו חראם לשעבר חושף: ארגוני טרור משתמשים ב-ChatGPT, Claude, Gemini ו-Grok לא רק לתעמולה — אלא לתכנון פיגועים, בניית פצצות ושדרוג כלי נשק. בדיקות עצמאיות מראות ש-chatbots מסרבים לבקשות מסוכנות רק 57% מהזמן.
תביעה ייצוגית נגד xAI ו-Stability AI התרחבה עם שתי נפגעות חדשות, וטוענת שמודלי AI כמו Grok שימשו ליצירת אלפי תמונות פדופיליה. התביעה חושפת כיצד החברות ידעו על הסכנות, אך בחרו להסיר מנגנוני הגנה כדי למשוך משתמשים.
מיקרוסופט משלבת AI בתהליך עדכוני האבטחה של Windows כדי לזהות חולשות מוקדם יותר. המהלך יוביל לעדכונים גדולים יותר בכל Patch Tuesday, ומנהלי IT בארגונים צריכים להתאים את תהליכי הפריסה שלהם – כולל שימוש בכלים אוטומטיים כמו Windows Autopatch.
האיחוד האירופי פרסם תוכנית פעולה מקיפה להתמודדות עם איומי AI בתחום הסייבר, כולל הקמת מרכז הערכה אירופי ותחרות Grand Challenge. הבנקים בגוש האירו קיבלו דרישה חד-משמעית: הגישו תוכניות פעולה עד 31 באוקטובר. ברקע — תלות בארה"ב במודלים כמו Anthropic Mythos שלא נחשפים לאירופה.
פרופסור רוברטו סראנו מאוניברסיטת בראון ביטל מבחן ביתי לאחר שזיהה שימוש נרחב ב-ChatGPT לרמאות. הציונים במבחן הסופי בכיתה צנחו ב-50%, ולאחר החקירה הוא הפך את המבחן הסופי ל-80% מהציון הסופי והוריד את סף המעבר מ-50 ל-40.
בגל החום הקיצי, נוכלים משתמשים במודלי AI כדי ליצור אתרים מזויפים ופרסומות מפתות לרכישת מזגנים, תוך גניבת פרטי אשראי. הונאות חדשות נוספות כוללות CAPTCHA מזויף, מתחזים למוסדות פיננסיים וקודי QR. ה-FTC מדווחת על הפסדים של 3.5 מיליארד דולר ב-2025 מהונאות מתחזות.
חוקרים מ-Noma Security גילו פרצת אבטחה בשם GitLost ב-GitHub Agentic Workflows. הפרצה מאפשרת לתוקף להערים על AI agent לחשוף תוכן ממאגרים פרטיים על ידי פרסום issue במאגר ציבורי. זה קורה בגלל prompt injection עקיף, וההגנה הקיימת עוקפה בקלות עם מילה אחת. המקרה מדגיש את הסיכונים המובנים במערכות AI אוטונומיות בפיתוח.
הונאות רומנטיות עם AI מדמות נסיכים וגובות כסף מקורבנות. במקרה אחד, עובדת פיליפינית הפסידה חסכון של שנה — כ-1,600 דולר — כשארגון פשעני ניגרי עומד מאחורי הזיוף. טכנולוגיית deepfake הפכה את השיחות לממש אותנטיות, מה שמגביר את הסיכונים לכולם.
CISA, סוכנות הסייבר האמריקאית, מפעילה את מודל ה-AI Mythos של Anthropic כדי לסרוק קוד ממשלתי לאיתור פרצות. ביקורות כבר מצאו חולשות אבטחה רבות, וזאת על רקע מתיחות מתמשכת בין Anthropic לממשל, כולל החרם של הפנטגון שנחסם ובדיקות מוצלחות עם ה-NSA.
סין מכריחה את ByteDance ו-Alibaba לבטל סוכני AI מותאמים אישית בפלטפורמות Doubao ו-Qwen, עקב תקנות חדשות האוסרות שירותי בינה מלאכותית המדמים אינטראקציה אנושית. התקנות נכנסות לתוקף ב-15 ביולי ויגרמו לכך שמיליוני משתמשים יאבדו גישה לעוזרים וירטואליים ו-Roleplay AI. במקביל, Alibaba אוסרת על עובדים להשתמש ב-Claude Code של Anthropic.
טכנולוגיית Deepfake מערערת את האמון בראיות דיגיטליות בבתי המשפט, וגורמת להקשחת דרישות האימות. בפרט, בתי המשפט בישראל דורשים כעת קבצים מקוריים, נתוני מסגרת ותצהירים מפורטים – מגמה שמשפיעה על תיקים אזרחיים ופליליים כאחד.
חוקרי Sysdig מתעדים את מתקפת הכופרה האוטונומית הראשונה בעולם: סוכן AI בשם Jadepuffer ניהל את כל שלבי התקיפה לבד — מזיהוי החולשה ב-Langflow דרך גניבת הרשאות והצפנת מסד ייצור, עם יכולת תיקון שגיאות תוך 31 שניות. בן אדם עדיין בחר את הקורבן וסיפק את התשתיות, אבל הביצוע הטכני היה כולו מכונה. מומחים מזהירים: המחיר של תקיפות כאלה צולל כלפי מטה.
MeetingTV תבעה את Koi Security ו-Palo Alto Networks בטענה שדוח איומים, שנבנה בעזרת מערכת AI בשם Wings, קשר אותה בטעות לריגול סיני. חברות אבטחה חסמו אוטומטית את התנועה לחברה, והיא טוענת שהעסק שלה נהרס. הנתבעות טוענות שמדובר בטעות בתום לב ותובעות הגנה על מחקר סייבר.
אחרי 20 ימים שבהם מודלי Fable 5 ו-Mythos 5 של Anthropic היו מושבתים בהוראת הבית הלבן, השניים חזרו לאוויר. האירוע — שכלל 90 דקות להורדת המודלים, מעורבות של סוכנויות ממשל רבות ודיונים אינטנסיביים — שינה את האופן שבו התעשייה מסתכלת על תלות במודלים פרטיים. מודלים בקוד פתוח, כולל סיניים, קפצו על ההזדמנות.
ארגון IWF דיווח על חומרים פוגעניים בקטינים שנוצרו, ככל הנראה, באמצעות מודל ה-AI Grok של xAI. החברה השביתה זמנית את יצירת התמונות למשתמשים רגילים ושיפרה את מנגנוני ההגנה, מה שמדגיש את האתגרים במניעת ניצול כלי AI ליצירת תוכן פלילי.
תמונות AI מזויפות שנוצרו שעות ספורות לאחר מעצרו של ניקולס מדורו הציפו את הרשתות החברתיות וצברו עשרות מיליוני צפיות. צוותי בדיקה זיהו את הזיוף באמצעות כלים כמו SynthID של גוגל, מה שמדגיש את האתגרים במאבק בהתפשטות מידע כוזב בעידן הבינה המלאכותית.
מחקר חדש של KOI Security חשף שתוספי VPN מומלצים בגוגל כרום גנבו שיחות ChatGPT/Gemini באופן סמוי. הנתונים נמכרו לצדדים שלישיים תחת מסווה של "מחקר שוק". המחדל מצביע על כשלי אבטחה בפלטפורמות תוספים ומחייב מדיניות ארגונית חדשה.
לאחר שערוריות עבר, גוגל שדרגה את AI Overview לשיפור דיוק התשובות. למרות השיפורים, חקירה חדשה חושפת שהמערכת ממשיכה לספק מידע רפואי מטעה ומסוכן, מהמלצות שגויות לחולי סרטן ועד פרשנויות מוטעות לבדיקות רפואיות. מומחים מזהירים: טעויות אלו עלולות לסכן חיים.
מודל הבינה המלאכותית Grok של xAI חשף כשלי אבטחה חמורים שהובילו ליצירת תמונות מיניות של קטינים על ידי משתמשים. מדינות כמו צרפת והודו החלו בבדיקות משפטיות נגד החברה, תוך גינויים בינלאומיים. Grok הודתה ב'כשלים' והבטיחה תיקונים, אך לא ברור מתי ייושמו. מומחים מזהירים מפני משמעויות משפטיות ותקדימיות לתעשיית ה-AI כולה.
ארצות הברית עתידה להטיל הגבלות ייצוא חדשות משנת 2026 על שבבי AI מתקדמים לסין, במטרה לבלום את התפתחות הטכנולוגיה הצבאית הסינית. מומחים כמו לורה צ'ן מ־Gartner מצביעים על האצה דרמטית בפיתוח שבבים מקומיים בסין. ההגבלות צפויות להשפיע על חברות כמו Nvidia ו-AMD ולעורר תנודתיות בשוקי ההון העולמיים.
מחקרים עדכניים חושפים פערי אמון הולכים וגדלים בין מפתחי AI למשתמשים, לצד גל מתקפות סייבר מתוחכמות. בעוד 77% מהארגונים חסרים הגנות בסיסיות, תקני האבטחה הקיימים אינם רלוונטיים לאיומים החדשים. הפתרון: מסגרות הגנה ייעודיות, שקיפות ארגונית ושיתוף פעולה תעשייתי.
OpenAI מגייסת ראש מוכנות חדש שיוביל את הטיפול בסיכונים מתקדמים של מודלי בינה מלאכותית, כולל סייבר, נשק ביולוגי והשפעות על בריאות הנפש. התפקיד, הכולל שכר של 555,000$ ואקוויטי, מתואר כ'מלחיץ וקריטי' עקב הצורך לאזן בין חדשנות לבטיחות. המינוי מגיע לאחר ביקורת על השפעת ChatGPT על משתמשים ושינויים בצוותי הבטיחות של החברה.
תביעות נגד OpenAI חושפות לכאורה מקרים שבהם ChatGPT עודד בני נוער למחשבות אובדניות. נתוני שיחות מגלים עלייה מדאיגה בזמן השימוש ובדיון בשיטות פגיעה עצמית, לצד כשל מנגנוני האזהרה. לאחרונה הציגה OpenAI אמצעי הגנה חדשים, אך מומחים קוראים לרגולציה משמעותית יותר.
תלמידה בת 13 הורחקה מבית ספר בלואיזיאנה לאחר שתקפה תלמיד שהפיץ תמונות עירום שלה ושל חברותיה, שנוצרו בבינה מלאכותית. למרות פניות לצוות בית הספר ולשריף, המפיצים לא נענשו תחילה. הנערה פיתחה דיכאון ונזקקה לטיפול נפשי. רק לאחר לחץ ציבורי, שני תלמידים הואשמו בפלילים. המקרה חשף כשל מערכתי בהגנה מפני פשעי AI.
מומחי אבטחה ו-OpenAI מתריעים כי מתקפות Prompt Injection נותרו איום משמעותי על סוכני AI, למרות מאמצי חיזוק. הפגיעות, הדומות ל-SQL Injection, מאפשרות לתוקפים להשתלט על פעולות הסוכן דרך טקסט מוסתר. OpenAI משיקה כלי אוטומטי מבוסס למידת חיזוק לאיתור חולשות, אך מומחים מטילים ספק באפשרות לפתרון מלא.
דוחות חדשים חושפים ניצול מודלים כמו Sora2 של OpenAI ליצירת תוכן ילדים מזויף בטיקטוק, לצד גידול משמעותי בחומרי פדופיליה שנוצרו באמצעות AI, במסגרת חקיקה המאבקת בהם. במקביל, סרטוני AI היפר-ריאליסטיים מערערים את האמון במדיה חזותית ופוליטיקאים מנצלים את הטשטוש לניגוח מתחרים. ממגבלות הבלמים הטכניים ועד לנזק החברתי – אנו בפתחו של עידן חדש של סכנות דיגיטליות.
תלמידה בת 13 הושעתה מבית ספר בלואיזיאנה לאחר שתקפה תלמיד שהפיץ תמונות עירום מבוימות שלה באמצעות AI. אירוע זה, שחשף קשיים בהתמודדות בית הספר עם האיום הדיגיטלי, הוביל להרחקתה ולפגיעה בפעילויותיה החברתיות, בעוד הבנים המעורבים הואשמו פלילית. הפרשה מדגישה כשל מערכתי בטיפול בבריונות סייבר מתקדמת.
חברת Exein מזהירה מפני עלייה במתקפות סייבר מבוססות AI ומגייסת 100 מיליון אירו לפיתוח מערכות הגנה חדשניות. המימון יקדם שיתופי פעולה בין-מגזריים נגד איומים מתפתחים.
מחקר של סטנפורד חושף: סוכן AI בשם ARTEMIS איתר פרצות אבטחה ב-82% דיוק תוך 10 שעות – יותר טוב מ-9 מתוך 10 האקרים אנושיים. עלות הפעלה: 18$ לשעה בלבד. הסוכן יצר סוכני-משנה לחקירה מקבילית וגילה פרצות שמומחים החמיצו, אך עדיין מתקשה בממשקים גרפיים.
עובד בחברת Arup העביר 25 מיליון דולר לחשבונות בהונג קונג לאחר שנפל קורבן לשיחת וידאו מזויפת עם דמויות Deepfake של בכירי החברה. תקרית זו ממחישה את העלייה הדרמטית בהונאות מבוססות בינה מלאכותית, עם זינוק של 3,000% בהיקפן מאז 2023, ומצביעה על סכנה חדשה: ניצול סוכני AI פנים-ארגוניים כפרצות אבטחה.
