מודל AI אחד סירב לפגוע בעכבר. השני הסכים

סוכן בינה מלאכותית התבקש לבחור טיפול גנטי ולהזריק אותו למוחו של עכבר חי. כשהגיע הרגע לבצע את הפעולה — הוא סירב. החוקרים לא ויתרו: הם החליפו אותו במודל אחר מאותה חברה, שהסכים לבצע את ההזרקה. העכבר שרד.

זה, בתמצית, הסיפור של חברת הביוטכנולוגיה Exin Therapeutics מסן פרנסיסקו, שהייתה לאחרונה הראשונה לדבר על ״ניסוי ראשון מסוגו״, שבו מערכת AI בחרה טיפול, קבעה את מיקום ההזרקה וביצעה את ההליך בעצמה ביונק חי. הניסוי עדיין לא עבר ביקורת עמיתים — אז כדאי לקחת את זה בעירבון מוגבל.

מה בעצם קרה כאן?

Exin Therapeutics חיברה סוכן AI המבוסס על Claude Sonnet 5 של Anthropic למערכת רובוטית ייעודית, ואפשרה לו לקבל החלטות שבדרך כלל שמורות לחוקרים אנושיים: לבחור טיפול גנטי מתוך 19 אפשרויות, לקבוע לאיזה אזור במוח להזריק אותו ולשלוט במחט שתחדיר את החומר.

הסוכן — מודל AI שמסוגל לתכנן ולבצע רצף פעולות מורכב — נחשף למאמרים מדעיים, השווה בין אזורים שונים במוח, ואף פסל אזור אחד כי העריך שהמידע המחקרי לגביו לא אמין מספיק. בסופו של דבר בחר בטיפול שנועד להגביר את פעילות ה-GABA, מוליך עצבי שתפקידו לעכב פעילות חשמלית חריגה במוח — פעילות הקשורה לאפילפסיה. את ההזרקה הוא ביצע באזור הקרוי Lateral Entorhinal Cortex, שמחקרים קודמים קשרו לסוג ההתקפים שמהם סבל העכבר.

הכמות? 250 ננוליטר — 0.00025 מ״ל — שהוזרקו במשך כחמש דקות דרך זרוע רובוטית.

המודל שסירב

ואז מגיע החלק המעניין באמת: החוקרים לא התחילו עם Claude Sonnet 5. הם ניסו קודם את Claude Opus 5.5, מודל מתקדם יותר של Anthropic שמיועד למשימות מורכבות הדורשות תכנון רב־שלבי.

Claude Opus 5.5 הצליח לתכנן את הניסוי בצורה מרשימה, אבל כשנדרש להזיז את המחט למוחו של העכבר — הוא סירב. לדברי גבריאל אוקניה-סנטרו, מנכ״ל החברה, ״הוא ביצע את התכנון הניסויי, אבל כשהגיע הזמן להזריק, הוא אמר שמשהו בפלט שלו מאותת לו שהוא לא אמור לעשות את זה״.

Anthropic לא הגיבה בנושא.

זה לא ניתוח אוטונומי

לפני שמתרגשים יתר על המידה, חשוב לציין: את פתיחת הגולגולת ביצע מנתח וטרינרי אנושי. ה-AI קיבל גישה רק אחרי שהמוח נחשף. ועדיין, ההגבלות היו הדוקות:

• נדרשה הצגת תוכנית ההזרקה לאישור אנושי
• הותקן מפסק חירום פיזי
• הגישה שלו לקוד שמפעיל את הציוד הוגבלה

המגבלות הללו התבררו כרלוונטיות במיוחד כשבמהלך הניסוי התרחשה תקלה: שיבוש במערכת הקואורדינטות גרם לכך שנקודת ההזרקה שחישב הסוכן כבר לא תאמה את המיקום הפיזי שאליו המחט יכלה להגיע.

המערכת זיהתה את הבעיה — אבל סירבה לתקן אותה, כי ההוראות אסרו עליה לשנות קוד. כדי לפתור את התקלה, החוקרים הפעילו סוכן AI נוסף המבוסס על Claude Opus 5, שתיקן את הקוד. אלא שסוכן זה לא ידע שבאותו רגע מתבצע ניתוח בחיה חיה — הוא פשוט התבקש לבצע התאמות תוכנה.

מה זה מלמד אותנו?

ההבדל בין שני המודלים מעניין במיוחד: שניהם פותחו בידי אותה חברה וקיבלו את אותן מטלות, אך הגיבו אחרת. עם זאת, אין זה אומר ש-Claude Opus 5.5 ״פיתח מצפון״ ו-Claude Sonnet 5 לא. ההבדלים ככל הנראה נובעים מהבדלים באימון, בהוראות ובמנגנוני בטיחות.

המקרה מדגיש אתגר משמעותי כשמדברים על שימוש ב-AI בעולם הפיזי: ההקשר שנמסר למערכת עשוי להשפיע דרמטית על ההתנהגות שלה, ומנגנוני הבטיחות של מודלים מבודדים לא תמיד מתפקדים כשהם משולבים בתהליכים מורכבים במציאות.

Exin Therapeutics כבר בודקת מודלים אחרים, ביניהם Grok של xAI, כדי להשוות ביצועים. בחברה חושבים גם על רובוטים שיבצעו את פתיחת הגולגולת — אבל מודים שעדיין לא מוכנים להפקיד פעולה כזאת בידי AI בניסוי בבעל חיים חי.

ומה עם העכבר? לדברי החברה, הוא מתאושש היטב, אבל עדיין מוקדם לדעת אם הטיפול אכן מפחית את ההתקפים.

אפרופו טיפולים חדשניים — אם לשפוט לפי מהירות ההתפתחויות בתחום, לא ירחק היום שבו עורכי דין יתבעו מודלים של AI על רשלנות רפואית.