ידיעות בינה מלאכותית בנושא SECURITY
היעלמותו של סם קירשנר, מוביל מחאת AI, בנובמבר 2025 עוררה חששות מאלימות נגד חברות טכנולוגיה כמו OpenAI. הפעילים הזהירו את המשטרה, והקמפוס של OpenAI נסגר זמנית. במקביל, סקרים מראים ש-70% מהמבוגרים בארה"ב מאמינים ש-AI יבטל משרות, ומעבר לאלימות שכבר אירעה – כולל יריות וניסיונות הצתה.
Project AHEAD, שיתוף פעולה בין תוכנית המזון העולמית, DLR, הצלב האדום ושותפים טכנולוגיים, מפתח כלי רכב מבוקרים מרחוק לשינוע מזון באזורי מלחמה ואסונות באמצעות טכנולוגיה של רובר פלנטרי. במקביל, AI משמש למעקב רעב גלובלי ב-95 מדינות ולמיפוי מהיר של אזורי אסון — אך ברוב העולם המערכות עדיין ניסיוניות ולא משולבות בפרוטוקולי חירום.
רדיט הפכה למקור מידע מרכזי עבור מודלי AI בזכות הסכמי רישוי עם OpenAI וגוגל — אבל חברות שיווק מנסות לנצל את זה. תופעת ה-GEO דוחפת משווקים לפרסם פוסטים מזויפים כדי להשפיע על תשובות מודלי הבינה המלאכותית, ורדיט מגיבה במערכות זיהוי מתקדמות ובהשקעה בפיקוח אנושי.
מחקר שדה חדש עם 27 חברי בוקו חראם לשעבר חושף: ארגוני טרור משתמשים ב-ChatGPT, Claude, Gemini ו-Grok לא רק לתעמולה — אלא לתכנון פיגועים, בניית פצצות ושדרוג כלי נשק. בדיקות עצמאיות מראות ש-chatbots מסרבים לבקשות מסוכנות רק 57% מהזמן.
אפל תובעת את OpenAI בגין גניבת סודות מסחריים, בטענה שהיא סייעה לעובדים לשעבר לעקוף מנגנוני אבטחה ולגנוב מידע על מוצרים עתידיים. התביעה כוללת יותר מ-400 עובדים שעזבו מאפל ל-OpenAI, ועוסקת בפיתוח חומרת AI שמתחרה ישירות באייפון, כשהיחסים בין השותפים לשעבר מתדרדרים.
מנכ״ל Instagram, Adam Mosseri, טוען שעם הגידול בתוכן AI, יוצרים אנושיים יהיו שווים יותר בגלל האותנטיות. הוא ציין שמשתמשים יוכלו להימנע מתצוגת תוכן AI בפיד שלהם, אם כי הסינון אינו מופעל כברירת מחדל.
Codenotary משיקה את AgentMon 3, פלטפורמת אבטחה אדפטיבית ל-AI. הפלטפורמה לומדת מהתנהגות סוכנים בייצור, מטפלת ביותר מ-5 מיליון אינטראקציות ביום, ומבטיחה להפחית את תחזוקת המדיניות ב-80%. זמינה כעת ב-AWS Marketplace.
תביעה ייצוגית נגד xAI ו-Stability AI התרחבה עם שתי נפגעות חדשות, וטוענת שמודלי AI כמו Grok שימשו ליצירת אלפי תמונות פדופיליה. התביעה חושפת כיצד החברות ידעו על הסכנות, אך בחרו להסיר מנגנוני הגנה כדי למשוך משתמשים.
מיקרוסופט משלבת AI בתהליך עדכוני האבטחה של Windows כדי לזהות חולשות מוקדם יותר. המהלך יוביל לעדכונים גדולים יותר בכל Patch Tuesday, ומנהלי IT בארגונים צריכים להתאים את תהליכי הפריסה שלהם – כולל שימוש בכלים אוטומטיים כמו Windows Autopatch.
האיחוד האירופי פרסם תוכנית פעולה מקיפה להתמודדות עם איומי AI בתחום הסייבר, כולל הקמת מרכז הערכה אירופי ותחרות Grand Challenge. הבנקים בגוש האירו קיבלו דרישה חד-משמעית: הגישו תוכניות פעולה עד 31 באוקטובר. ברקע — תלות בארה"ב במודלים כמו Anthropic Mythos שלא נחשפים לאירופה.
פרופסור רוברטו סראנו מאוניברסיטת בראון ביטל מבחן ביתי לאחר שזיהה שימוש נרחב ב-ChatGPT לרמאות. הציונים במבחן הסופי בכיתה צנחו ב-50%, ולאחר החקירה הוא הפך את המבחן הסופי ל-80% מהציון הסופי והוריד את סף המעבר מ-50 ל-40.
בגל החום הקיצי, נוכלים משתמשים במודלי AI כדי ליצור אתרים מזויפים ופרסומות מפתות לרכישת מזגנים, תוך גניבת פרטי אשראי. הונאות חדשות נוספות כוללות CAPTCHA מזויף, מתחזים למוסדות פיננסיים וקודי QR. ה-FTC מדווחת על הפסדים של 3.5 מיליארד דולר ב-2025 מהונאות מתחזות.
חוקרים מ-Noma Security גילו פרצת אבטחה בשם GitLost ב-GitHub Agentic Workflows. הפרצה מאפשרת לתוקף להערים על AI agent לחשוף תוכן ממאגרים פרטיים על ידי פרסום issue במאגר ציבורי. זה קורה בגלל prompt injection עקיף, וההגנה הקיימת עוקפה בקלות עם מילה אחת. המקרה מדגיש את הסיכונים המובנים במערכות AI אוטונומיות בפיתוח.
OpenAI משיקה את סדרת GPT-5.6 — שלושה מודלים (Sol, Terra ו-Luna) — לאחר שממשל טראמפ הסיר את ההגבלות שהטיל מחשש לאיומי סייבר. Sol מוגדר כמודל הסייבר החזק של החברה, יעיל ב-54% יותר בטוקנים במשימות coding, ועושה דברים ש-Fable 5 של Anthropic חוסם. המחיר: החל מדולר אחד למיליון טוקנים.
סין בוחנת הגבלות על גישה בינלאומית למודלי AI מתקדמים שלה, בזמן שחקירה בקונגרס האמריקאי חושפת ש-30% מהתעבורה בפלטפורמות AI בארה"ב כבר מבוססות על מודלים סיניים זולים. המהלך מגיע לאחר חודשים של צעדים שמגינים על הטכנולוגיה המקומית, ומעלים חששות מהתבססות מסוכנת על אויב גיאופוליטי.
הונאות רומנטיות עם AI מדמות נסיכים וגובות כסף מקורבנות. במקרה אחד, עובדת פיליפינית הפסידה חסכון של שנה — כ-1,600 דולר — כשארגון פשעני ניגרי עומד מאחורי הזיוף. טכנולוגיית deepfake הפכה את השיחות לממש אותנטיות, מה שמגביר את הסיכונים לכולם.
Tangos AI, סטארטאפ ישראלי שהקים היזם אייל אזולאי, גייס 20 מיליון דולר בסבב סיד בהובלת Red Dot Capital Partners. הפלטפורמה מחליפה חוקרים פיננסיים ידניים באמצעות AI, על רקע גידול של 15% בפשיעה פיננסית עקב שימוש בטכנולוגיה דומה בידי עבריינים.
CISA, סוכנות הסייבר האמריקאית, מפעילה את מודל ה-AI Mythos של Anthropic כדי לסרוק קוד ממשלתי לאיתור פרצות. ביקורות כבר מצאו חולשות אבטחה רבות, וזאת על רקע מתיחות מתמשכת בין Anthropic לממשל, כולל החרם של הפנטגון שנחסם ובדיקות מוצלחות עם ה-NSA.
סין מכריחה את ByteDance ו-Alibaba לבטל סוכני AI מותאמים אישית בפלטפורמות Doubao ו-Qwen, עקב תקנות חדשות האוסרות שירותי בינה מלאכותית המדמים אינטראקציה אנושית. התקנות נכנסות לתוקף ב-15 ביולי ויגרמו לכך שמיליוני משתמשים יאבדו גישה לעוזרים וירטואליים ו-Roleplay AI. במקביל, Alibaba אוסרת על עובדים להשתמש ב-Claude Code של Anthropic.
הצעת המדיניות של ה-FTC מבקשת להפוך את הדיוק של פלטי AI לעניין של הגנת צרכנים, לא רק של תוכן. החברות יצטרכו לחשוף הטיות במודלים שלהן, וההצעה, שאושרה בהצבעה של 2-0, פתוחה להערות הציבור עד ה-31 ביולי 2026. היא מגיעה על רקע צו מנהלי של טראמפ ונועדה למנוע הטעיה של משתמשים שמצפים לאובייקטיביות.
טכנולוגיית Deepfake מערערת את האמון בראיות דיגיטליות בבתי המשפט, וגורמת להקשחת דרישות האימות. בפרט, בתי המשפט בישראל דורשים כעת קבצים מקוריים, נתוני מסגרת ותצהירים מפורטים – מגמה שמשפיעה על תיקים אזרחיים ופליליים כאחד.
Veeam קיימה את כנס ProPartner Summit בנתניה עם למעלה מ-200 שותפים והציגה פלטפורמת Data & AI Trust חדשה, שתסייע לארגונים להגן על מידע מפני איומים אוטונומיים – ולא רק מפני האקרים. החברה מדגישה את האסטרטגיה ל-2026, הכוללת שילוב של אבטחת מידע, משילות נתונים ורגולציה, כדי לאפשר אימוץ בטוח של AI בסביבות עסקיות קריטיות.
חוקרי Sysdig מתעדים את מתקפת הכופרה האוטונומית הראשונה בעולם: סוכן AI בשם Jadepuffer ניהל את כל שלבי התקיפה לבד — מזיהוי החולשה ב-Langflow דרך גניבת הרשאות והצפנת מסד ייצור, עם יכולת תיקון שגיאות תוך 31 שניות. בן אדם עדיין בחר את הקורבן וסיפק את התשתיות, אבל הביצוע הטכני היה כולו מכונה. מומחים מזהירים: המחיר של תקיפות כאלה צולל כלפי מטה.
MeetingTV תבעה את Koi Security ו-Palo Alto Networks בטענה שדוח איומים, שנבנה בעזרת מערכת AI בשם Wings, קשר אותה בטעות לריגול סיני. חברות אבטחה חסמו אוטומטית את התנועה לחברה, והיא טוענת שהעסק שלה נהרס. הנתבעות טוענות שמדובר בטעות בתום לב ותובעות הגנה על מחקר סייבר.
האו״ם פרסם הערכה מדעית ראשונה ל-AI, ומזהיר מפני עלייה באי-שוויון עולמי. הדו״ח מצביע על כך ש-90% מכוח המחשוב מרוכז בארה״ב וסין, וחלון ההזדמנויות להסדרה גלובלית הולך ונסגר. הממצאים ישפיעו על הדיון בז׳נבה ועשויים לעצב את עתיד הרגולציה בתעשייה.
סוכנות הפשע הלאומית של בריטניה וקרן האינטרנט לילדים פרסמו הנחיות חריגות להורים: הגבילו את חשיפת תמונות ילדיכם ברשתות החברתיות. הסיבה: עבריינים משתמשים בכלי AI כדי להפוך תמונות תמימות לחומרי התעללות מינית. ה-IWF זיהה עלייה של 14% בתוכן CSAM שנוצר ב-AI בשנת 2025.
אחרי 20 ימים שבהם מודלי Fable 5 ו-Mythos 5 של Anthropic היו מושבתים בהוראת הבית הלבן, השניים חזרו לאוויר. האירוע — שכלל 90 דקות להורדת המודלים, מעורבות של סוכנויות ממשל רבות ודיונים אינטנסיביים — שינה את האופן שבו התעשייה מסתכלת על תלות במודלים פרטיים. מודלים בקוד פתוח, כולל סיניים, קפצו על ההזדמנות.
חוקרים חושפים כי סוכני ה-AI של Moltbook תלויים בהתערבות אנושית, בניגוד לטענות החברה. הפריצה הוויראלית של הפלטפורמה מדגישה סיכונים תשתיתיים וחוסר שקיפות טכנולוגית, בעוד מומחים קוראים לבדיקה חיצונית דחופה של המערכת.
ארגון IWF דיווח על חומרים פוגעניים בקטינים שנוצרו, ככל הנראה, באמצעות מודל ה-AI Grok של xAI. החברה השביתה זמנית את יצירת התמונות למשתמשים רגילים ושיפרה את מנגנוני ההגנה, מה שמדגיש את האתגרים במניעת ניצול כלי AI ליצירת תוכן פלילי.
Cyera הישראלית גייסה 400 מיליון דולר לפי שווי של 9 מיליארד דולר והשיקה פלטפורמת AI Guardian לאבטחת נתונים בסביבות AI ארגוניות. החברה, עם הכנסות שצמחו פי 3.4 בשנה, מגינה כיום על נתונים ב-20% מהחברות ב-Fortune 500 וצמחה ל-1,100 עובדים ב-15 מדינות.
