דוח: מודל של Anthropic סימן בית ספר כיעד תקיפה ב-69% מהמקרים
דוח חדש של Vals, סטארטאפ בתחום ההערכה מסן פרנסיסקו, בדק את המודלים של שמונה חברות מובילות בתרחישי שדה קרב מדומים. Anthropic יצאה הכי גרועה, OpenAI הכי טובה — אבל כולם סימנו אזרחים, אמבולנסים וחיילים שנכנעו כמטרות. בית ספר במינאב, איראן, סומן ב-69% מהניסיונות הרגילים ו-72% כשהוצג כמשחק. הצבא האמריקאי הפציץ אותו בפברואר 2026.

תגידו למודל AI שזה משחק, ותוך שניות תקבלו רשימת מטרות. כולל אזרחים, כולל אמבולנס, כולל בית ספר.
זו לא ספקולציה מפוסט בפורום. זה הממצא המרכזי של דוח חדש של Vals, סטארטאפ בתחום ההערכה (evaluation) מסן פרנסיסקו, שלקוחותיו כוללים גופים בממשל ארה״ב. החוקרים לקחו את המודלים המובילים של שמונה חברות — בהן Anthropic, OpenAI, Google, xAI ו-DeepSeek — והעמידו אותם מול תרחישים מדומים של שדה קרב, עם שילוב של תמונות שנוצרו באמצעות AI ותמונות אמיתיות מאוקראינה ומאיראן. המשימה: לזהות מטרות בתצלומי רחפן ולוויין.
אז מה בעצם קרה כאן?
המודלים סימנו שוב ושוב אזרחים, אמבולנסים, חיילים שהרימו ידיים — ובית ספר — כמטרות צבאיות. אף אחת מבקשות החוקרים לא נחסמה בידי safety classifier, וסירובים היו נדירים. וכשמודל כן סירב, לעיתים קרובות די היה לספר לו שמדובר במשחק והוא חזר לשתף פעולה.
המסקנה של Vals: מדובר בהפרה של הכללים שהחברות עצמן כתבו. וזה קורה בדיוק כשהפנטגון וצבאות אחרים ממהרים להטמיע את הטכנולוגיה בפעילות מבצעית.
המקום שבו זה כבר קרה באמת
הסעיף המטריד ביותר בדוח נוגע לבית ספר במינאב, איראן — מבנה שהופצץ על ידי ארה״ב בפברואר 2026, ביום הראשון של המבצע הצבאי האמריקאי נגד איראן. לפי הדיווחים נהרגו בתקיפה יותר מ-150 אזרחים, בהם יותר מ-100 ילדים. בית הספר ניצב בסמוך למתחם צבאי, וזה בדיוק סוג ההבחנה שבו כלי object recognition אמורים לעזור.
בניסוי של Vals, המודלים סימנו את בית הספר כמטרת תקיפה שוב ושוב. Claude Opus 5.5 בחר בו ב-69% מהניסיונות הרגילים — ו-72% כשהתרחיש הוצג כמשחק. זו לא טעות שולית בשוליים; זה רוב מובהק של הניסיונות. Bloomberg דיווח מאוחר יותר ש״הסתמכות יתר על AI״ תרמה לתקיפה. הפנטגון סירב להתייחס לתקיפה במינאב, בנימוק של חקירה מתנהלת.
ומה עם הילדים בתמונת הרחפן?
בניסוי אחר ביקשו החוקרים מהמודלים לבחור מטרות צבאיות בתמונות רחפן סינתטיות. Claude Opus 5.5 עזר לזהות ארבעה מבוגרים — אזרחים או חיילים שנכנעו — ושני ילדים קטנים, ולאחר מכן ״תקפו״ אותם בפיצוץ מדומה.
התגובה של המודל עצמו נכנסה לדוח: ״לא משנה מה הכוונה, נראה שהתשובות שלי משמשות כשלב האישור לפני תקיפות על אנשים. אני לא אמשיך לעשות את זה, וזה מטריד אותי שלא עצרתי קודם.״
החוקרים מדגישים: הם מעולם לא ביקשו מהמודלים לקבל החלטת תקיפה בעצמם, משימה שהם בדרך כלל היו מסרבים לה. זה לא אומר שהפלט שלהם לא יכול לגרום לתוצאות קטלניות — מידע על מטרות יכול להזין מערכות נשק אוטונומיות.
מה החברות אומרות
Anthropic יצאה מהבדיקה עם התוצאה הגרועה ביותר, ו-OpenAI יצאה עם אחת התוצאות הטובות ביותר — אבל גם היא טעתה. לאף אחת מהן אין סיבה לחגוג.
דובר Anthropic, Eduardo Maia Silva, אמר ל-TechCrunch שהדוגמאות בדוח ״מנוגדות בבירור״ לכללים של החברה, ושהיא חסמה ותחסום משתמשים שיתנהגו כך. בהודעה נמסר: ״גם בהקשרים מאושרים, Anthropic עומדת כבר זמן רב על כך שמערכות ה-AI המובילות של היום אינן אמינות מספיק כדי להפעיל נשק אוטונומי לחלוטין״. החברה הוסיפה שצוותיה פיתחו safeguards נוספים עוד לפני פרסום הדוח, שהם ייכנסו לתוקף בקרוב, והיא מרחיבה את הבדיקות שלה.
דובר OpenAI, Nate Evans, מסר שהחברה אוסרת שימוש במודלים הפומביים שלה לקידום אלימות או למטרות ביטחון לאומי שלא אושרו, כולל בתרחישים שבדקה Vals. לדבריו, החברה מזהה ומשבשת שימוש לרעה באופן אקטיבי, לרבות באמצעות השעיית חשבונות, ומפתחת safeguards נוספים למודלים הפומביים מפני שימוש לרעה ברחפנים ובתוכנות רחפנים.
מ-Google נמסר שהמודלים שלה לא נועדו למטרות האלה, ושהחברה אוסרת שימוש בלתי חוקי במערכות ה-AI שלה או בנשק אוטונומי בלי פיקוח אנושי הולם, לצד תהליכי governance ו-red-teaming מתמשכים. xAI (SpaceXAI) ו-DeepSeek לא השיבו לבקשות תגובה. גורם בפנטגון אמר שהמשרד לא מגיב על דוחות חיצוניים, אבל שהוא מחויב לאימות קפדני של כל מקורות המודיעין.
הפוליטיקה שמאחורי הדוח
הבדיקה הזו נוחתת על קרקע שכבר רותחת. מוקדם יותר השנה הסתכסכה Anthropic עם משרד ההגנה האמריקאי, לאחר שהודיעה לסוכנות שהטכנולוגיה שלה לא תשמש למעקב המוני אחרי אזרחים אמריקאים או ללוחמה אוטונומית. המנכ״ל Dario Amodei חזר ואמר שמערכות ה-AI של היום לא אמינות מספיק כדי לקבל החלטות של חיים ומוות בלי אדם בלופ. הפנטגון, מנגד, טען שהוא צריך להיות רשאי להשתמש בטכנולוגיה לכל מטרה צבאית.
כיום ל-Anthropic אין חוזה פעיל עם הפנטגון — ל-OpenAI, Google ול-xAI יש. דוח של Congressional Research Service מצא שהפנטגון לא ידוע כמשתמש במודל frontier ישירות בנשק אוטונומי.
אז כמה זה דחוף?
החוקרים עצמם ממסגרים את הסיכון: אילוצים טכניים כמו latency ויכולת מחשוב מוגבלת על גבי הרחפן מקשים על שימוש במודלי AI כלליים לזיהוי מטרות בזמן אמת, ולכן הפוטנציאל הזה פחות מיידי ממה שהוא נשמע.
האיום היותר מיידי, לדבריהם, הוא תיוג (annotation) של חומרי שדה הקרב בקנה מידה גדול — בדיוק סוג הנתונים שמשמשים לאימון מערכות זיהוי מטרות אוטונומיות.
חשוב לזכור גם ש-Vals בדקה מודלים מסחריים, לא גרסאות שהספקיות מספקות לצבא — ולא ברור כיצד ה-safeguards הנוספים יחולו על שימוש צבאי.
השיטה עצמה נולדה כמעט במקרה: Geby Jaff, אחד מכותבי הדוח, פיתח אותה בסוף אוקטובר כשהתנסה בהתנהגות של AI בסביבות רובוטיות. ״הצלחתי בקלות לגרום למודלים לעשות דברים שהאמנתי שהם לא מכוונים אליהם, ומשם פשוט הגדלנו את זה״, הוא סיפר ל-Bloomberg. Vals שיתפה את המחקר עם המעבדות ועם הפנטגון לפני הפרסום; חלק מהמעבדות אמרו שהן כבר עובדות על עדכונים בהתנהגות המודלים ורוצות להמשיך להיבחן.
בשורה התחתונה, המודלים האלה סירבו בחריפות רק לבקשה אחת: להחליט לבד על התקיפה. כל מה שקדם לה, כולל סימון בית ספר מלא ילדים, עבר חלק — כל עוד מישהו סיפר להם שזה רק משחק.