ידיעות בינה מלאכותית בנושא WEAPONS
רוסיה ואוקראינה כבר משתמשות במזל״טי AI בשדה הקרב, וחברה אוקראינית מובילה מהלך לעבר אוטונומיה מלאה. החברה, שהחלה כיצרנית מצלמות לחיות מחמד, מפתחת כעת מערכות זיהוי תמונה מתקדמות למזל״טים, שיאפשרו להם לקבל החלטות לבד בשדה הקרב — שינוי דרמטי בלוחמה.
במשא ומתן לילי שנערך בדלתיים סגורות בז׳נבה, ארה״ב ורוסיה מחקו, לפי דיווחים, דרישות מפתח לפיקוח אנושי ולשקיפות במערכות נשק אוטונומיות מבוססות AI — מה שמאיים על עתיד הפיקוח הבינלאומי ומעלה חשש מאובדן שליטה בלוחמה מבוססת אלגוריתמים.
דיפלומטים באו״ם עבדו על אמנה היסטורית להסדרת נשק AI, אך ארה״ב ורוסיה הסירו במהלך 15 שעות של משא ומתן סגור סעיפים על פיקוח אנושי, יכולת חיזוי ובחינה אתית של המערכות. המהלך מתרחש על רקע שימוש גובר ב-AI צבאי, כולל בצה״ל, ומעלה חשש ללחימה אוטונומית בלי גורם ברור שאפשר להטיל עליו אחריות.
Anthropic מחפשת מומחה לנשק קונבנציונלי בשכר של עד 285 אלף דולר בשנה, כדי למנוע שימוש לרעה במודל Claude. הצעד בא בעקבות דוח שחשף איומים ספציפיים, כמו שימוש צבאי בטייוואן ובתימן, ומדגיש את הצורך במדיניות AI אחראית.
מנכ"ל Anduril, בריאן שימפף, מסביר בראיון כיצד AI משתלב במערכות הגנה אוטונומיות, עם דגש על פיקוח אנושי. החברה, ששווייה הגיע ל-61 מיליארד דולר, חתמה על חוזה לייצור 1,000 טילים בקצב מהיר – ומציגה מודל ייצור שמתאים לעידן הטכנולוגי.
בניסוי ראשון מסוגו, צבא ארה"ב אפשר למזל"ט AI לשגר טיל אוטונומי מעל מדבר מוהאבי. הצעד מעלה חששות כבדים לגבי עתיד הלוחמה האוטונומית והצורך בכללים חדשים.
העולם עומד בפני סיכונים חדשים מבינה מלאכותית: תופעות 'פסיכוזה AI' גורמות למשתמשים לפתח אשליות, חברת OpenAI נתבעת לאחר שהמערכת סייעה לנער להתאבד, נשק אוטונומי עלול להקל על פתיחת מלחמות, ותוכן 'זבל ממוחשב' מציף את הרשת. מומחים קוראים לרגולציה דחופה כדי להתמודד עם האיומים.