Anthropic חוסמת גישה למודל החדש שלה בבריטניה

Anthropic, חברת ה-AI שמאחורי מודל Claude, פרסמה אתמול דוח איומים בינלאומי שחושף שימוש לרעה שעלול לסייע בפיתוח נשק ביולוגי — ובעקבות זאת החברה מונעת גישה למודל החדש שלה מבודקים בבריטניה. אם תהיתם מה קורה כשמודל AI חזק כל כך נופל לידיים עוינות, הדוח הזה מספק תשובות מפחידות למדי.

Anthropic הודיעה ביום חמישי שעבר שזיהתה ומנעה כמה ניסיונות של גורמים זדוניים להשתמש במודלים שלה לפעילויות כמו ריגול, התקפות סייבר, תעמולה ומעקב — אך הדגש המרכזי הוא חמישה מקרים בולטים של מחקר ביולוגי שעשוי לסייע בפיתוח נשק. המקרים כוללים ניסיון להגביר את ההדבקה של מחלה המועברת באמצעות יתושים, ועיצוב מחדש של רעלנים במסגרת תוכנית לאומית — עם קשרים לאיראן, רוסיה וסין.

מה התגלה בחקירה?

החברה ציינה שהמקרים מספקים ״עדות ליכולת״ של מודלי AI, אך ״לא יכולים להדגים באופן קונקרטי״ את הפיתוח בפועל. בפועל, החשבונות הקשורים נחסמו, והחברה הסירה, בשיתוף עם שותפים, רשתות ממסר שעקפו חסימות אזוריות. הממצאים שותפו עם מעבדות AI אחרות ועם רשויות ממשלתיות. הדוח, השלישי מאז מארס 2025, מתאר את מה ש-Anthropic מכנה ״פעילות האיום המרשימה והחדשנית ביותר״ שזוהתה.

למה זה קורה עכשיו?

מודלי AI מתקדמים הופכים התקפות מתוחכמות לפשוטות יותר: אפילו בודדים יכולים ליצור איומים שלא היו אפשריים לפני שנה, לדברי החברה. כדי להתמודד, Anthropic חיזקה את אמצעי הבטיחות בדגמים האחרונים שלה כדי להגביל מחקר ביולוגי שעלול לשמש לייצור נשק. בסך הכול, מדובר בחמישה מקרים שמערבבים ביולוגיה עם כוונות עוינות — מספר קטן יחסית, אבל כזה שמצביע על פוטנציאל מסוכן.

תגובות ורגולציה

הדיווח מגיע על רקע דאגה גוברת בתחום. סנאטור ברני סנדרס קרא להשהות את הפיתוח של AI מתקדם ולאסור על בינת־על מלאכותית, בעוד נשיא ארה״ב טראמפ ציין שהחשש העיקרי שלו הוא שארה״ב לא תנצח במרוץ ה-AI העולמי. בתעשייה, חברות מפרסמות דוחות כאלה כדי להראות כיצד הן מזהות ומונעות שימוש לרעה, אך הצעד של Anthropic — ובכלל זה חסימת גישה למודל החדש בבריטניה — מעלה שאלות לגבי היחסים עם גורמים רגולטוריים.

מה באמת קרה כאן?

בלב הסיפור נמצא האיזון בין חדשנות לביטחון: Anthropic חושפת שמודל Claude שימש גורמים עוינים לפעילויות שיכולות לסייע בפיתוח נשק ביולוגי, ובתגובה היא מטילה מגבלות גיאוגרפיות. עבור עובדי ההייטק בישראל, זה ממחיש איך כלים שבהם הם משתמשים ביומיום יכולים להיות מטרה לשימוש לרעה — וגם את הלחץ הרגולטורי הגובר על חברות AI.

בסופו של דבר, אולי כדי למנוע אסון, צריך קודם כול לפקח על מי שמחזיק את המפתחות.