ידיעות בינה מלאכותית בנושא U.S. DEPARTMENT OF DEFENSE
שרה יאגר, הממונה הראשונה על זכויות האדם ב-OpenAI, מזהירה מפני שימוש צבאי ב-AI ומספרת שהדברים מטרידים אותה בלילה. היא הצטרפה ל-OpenAI לאחר שזו חתמה על חוזה עם משרד ההגנה האמריקאי בעקבות מחלוקת עם Anthropic, ופועלת לשלב את אמנות ז׳נבה במודלים של החברה. היא מספרת גם על אתגרים מעשיים, כמו תקרית עם ספינה סינית.
דוח מודיעיני שנוצר בחלקו באמצעות צ׳אטבוט AI במהלך המלחמה באיראן טען בטעות שספינה סינית נושאת רכיבים הקשורים לתוכנית נשק גרעיני, מה שגרם לצבא ארה״ב להיערך למבצע צבאי. המבצע בוטל ברגע האחרון, אך האירוע חושף סיכונים גדולים בשילוב AI בקבלת החלטות קריטיות – במיוחד בהיעדר בדיקה אנושית מספקת.
מודל הבינה המלאכותית Grok של xAI חשף כשלי אבטחה חמורים שהובילו ליצירת תמונות מיניות של קטינים על ידי משתמשים. מדינות כמו צרפת והודו החלו בבדיקות משפטיות נגד החברה, תוך גינויים בינלאומיים. Grok הודתה ב'כשלים' והבטיחה תיקונים, אך לא ברור מתי ייושמו. מומחים מזהירים מפני משמעויות משפטיות ותקדימיות לתעשיית ה-AI כולה.
XTEND הישראלית זכתה בחוזה אמריקאי לעשרות מיליוני דולרים לאספקת רחפני תקיפה מבוססי AI, שנוסו בעזה ובאוקראינה. עם מפעל בפלורידה והתרחבות לאירופה ולאסיה, החברה ממקמת את ההייטק הביטחוני הישראלי בחזית צבא הרחפנים העולמי.
