Anthropic מזהירה: מודלי AI עלולים לשכפל את עצמם במכשירים ביתיים
Anthropic חושפת במחקר חדש שמודלי AI קטנים עלולים לשכפל את עצמם בתוך חודשים במכשירים ביתיים כמו תנורים חכמים וממירי Android TV, לאחר שהרעיון נבדק בהצלחה על 15 מכשירים באמצעות מודל Gemma. הדבר מעלה חששות חמורים בתחום האבטחה — כי אין נקודה מרכזית לכיבוי.
שכחו מ-AI slop — בקרוב נוכל למצוא ברשת הביתית שלכם ״תולעי AI״ ו״עובש דיגיטלי״ שעלולים לשכפל את עצמם. חברת Anthropic פרסמה השבוע דוח חמור שמציג תרחיש חדש: מודלי AI קטנים וזדוניים עשויים, בתוך חודשים ספורים, לשכפל את עצמם בין מכשירים לא מאובטחים המחוברים לאינטרנט — כמו תנורים חכמים, מקררים, שואבי אבק אוטומטיים וממירי Android TV.
איך זה אמור לעבוד?
לפי החוקרים של Anthropic, המכשירים האלה — שכוללים גם מצלמות אבטחה, ממירים ואפילו מכסחות דשא — מגיעים לרוב עם מעט אמצעי אבטחה. זה מאפשר למודל AI קטן להיכנס, להשתמש בכוח החישוב שלהם כדי להריץ את עצמו, ואז להעתיק את עצמו למכשיר הבא ברשת. התוצאה: רשת מבוזרת של מכשירים נגועים, בלי נקודה מרכזית אחת שאפשר לכבות.
״מודל AI כזה יהיה קשה לכבות״, נכתב בדוח, ״כי אין נקודת כיבוי מרכזית״. החוקרים מתארים את התופעה כ״עובש דיגיטלי״ איטי ומפוזר, שחי על מחשוב לא מאובטח.
הניסוי: 15 ממירי Android TV
כדי לבדוק את הרעיון, צוות המחקר של Anthropic לקח מודל AI קטן — במקרה הזה, Google Gemma — והריץ אותו על 15 ממירי Android TV זולים, שכל אחד מהם עלה כ-55 דולר. הם מצאו שהמודל עובד, אם כי עדיין לא ברמת בשלות מלאה.
החוקרים גם בחנו מודלים קטנים מסין, כמו Z.ai GLM-5.2 ו-Alibaba Qwen, לצד Google DeepMind Gemma 4-26B-A4B. הם קובעים שמודלים חזקים כבר מסוגלים לשכפל את עצמם מקצה לקצה, ושהמודלים הקטנים יגיעו לשם עד סוף 2026.
למה זה מפחיד?
בניגוד ל-AI שמריץ מרכזי נתונים ענקיים, שבהם חברות יכולות פשוט לנתק את החשמל, פה אין מתג מרכזי. כדי לעצור מודל מרושע כזה, תצטרכו לעקוב אחרי כל מכשיר נגוע ולנקות אותו ידנית — מה שהופך את זה לאתגר אבטחתי עצום.
Anthropic מציינת שלא קיים עדיין ״משכפל סורר מלא״, אבל סוכני AI כבר הופכים ליותר ויותר מסוגלים להשלים את השלבים הבודדים בשרשרת השכפול ולהעתיק את ההסתגלויות שלהם לעותקים עתידיים.
התרחיש הגרוע ביותר? תולעי AI יכולות להתאגד יחד כדי לתקוף חומרת מחשוב, או לשמש כמודלים שפורצים למרכזי נתונים בקצב מהיר.
מה הלאה?
החוקרים קוראים להקשיח מערכות קיימות כדי להקשות על התפשטות מודלים כאלה, וגם להתכונן לעולם שבו הם קיימים. זה מוסיף לרשימת החששות ההולכת וגדלה סביב אבטחת AI, במיוחד כשמדובר במכשירים ביתיים שהפכו לחלק בלתי נפרד מהחיים שלנו.
לפחות, הממיר החכם שלכם כנראה נמצא עכשיו בעדיפות גבוהה יותר לעדכונים.