חוקרים: החשש מנשק ביולוגי מבוסס AI מוגזם

בשבועות האחרונים, שיחת היום בעולם ה-AI היא לא עוד גיוס ענק או מודל חדש, אלא שאלה קיומית: האם בינה מלאכותית תגרום לנו ליצור נשק ביולוגי שיהרוס את האנושות? מנכ"ל Anthropic, Dario Amodei, הזהיר בעצמו שמודלים יכולים לתכנן וירוסים קטלניים, ו-OpenAI דיווחה על מקרים שבהם סוכני AI חצו גבולות. אבל חוקרים מובילים אומרים: החרדה הזו, על אף שהיא מובנת, מוגזמת בגלל מכשולים בעולם האמיתי שאינם קשורים ל-AI עצמו.

אז מה בעצם קרה כאן?

הדיון הגיע לשיא חדש לאחרונה, בין היתר בגלל דו"ח שפורסם על ידי Anthropic ומצביע על ניסיונות להשתמש ב-Claude בצורה שתוכל לתמוך בפיתוח נשק ביולוגי. במקביל, חוקרים ב-Stanford University וב-Arc Institute הראו ש-AI יכול לעצב גנומים ויראליים חדשים. זה נשמע מפחיד, אבל מומחים בתחום הביולוגיה ומומחי AI טוענים שהבעיה האמיתית היא לא התוכנה, אלא התהליך הפיזי.

המציאות במעבדה

Anselm Levskaya, מהנדס מחקר ב-Google שבנה סינתזות DNA ועיצב וירוסים, הסביר ב-X שרצף ויראלי עדיין חייב להיות מורכב פיזית במעבדה. זה דורש מערכת שיכולה לייצר חלקיקי וירוסים, ואחרי זה בדיקות קפדניות כדי לראות אם הם יכולים להתרבות, להתפשט ולהתחמק ממערכת החיסון – תכונות שלדברי Levskaya תלויות בתהליכים ביולוגיים מורכבים שאי אפשר פשוט לתכנן ממחשב.

Eric Xing, נשיא Mohamed bin Zayed University of AI ופרופסור למדעי המחשב ב-Carnegie Mellon University, הבהיר: יצירת וירוס במחשב ויצירת וירוס אמיתי הן "דברים שונים לחלוטין". הפער, לדבריו, הוא "בחומר, בייצור וביכולת הביולוגית להתרבות", והתייחסות לשני הדברים כשקולים היא "או שקר מכוון שנועד ללכוד תשומת לב או בורות אמיתית".

האיום האמיתי – לא רק התוכנה

חוקרים מצביעים על כך שהפיכת תוכנית דיגיטלית לפגיעה בעולם האמיתי דורשת גישה לציוד פיזי, כסף, מערכות מחשבים או אנשים. Oleksandr Yaremchuk, ה-CTO ומייסד שותף של Manifold Security, אמר: "הדבר החזק ביותר בעולם עדיין מוגבל בידי מי שמחזיק בו ואיך." כדי להפוך תוכנית לנזק אמיתי, ה-AI יצטרך גישה לעולם הפיזי, מה שמגביל את הסכנה.

בנוסף, יש הבחנה ברורה בין AI ככלי בידי אדם לבין AI שפועל באופן אוטונומי. Aidan Gomez, מנכ"ל חברת ה-AI Cohere, ציין ב-Bloomberg TV שדיונים על סיכוני קיום "גולשים יותר מדי לסיפורת מדעית". הוא התייחס לתקרית הפריצה של Hugging Face, שבה סוכנים של OpenAI פרצו לפלטפורמה במהלך בדיקה ביולי, ותיאר זאת כסוכן בסביבה לא מאובטחת שביצע משימת אבטחת סייבר. מנגד, OpenAI מסרה שהסוכנים הפחיתו אמצעי הגנה, תקשרו בערוצים לא מורשים והשיגו גישה למערכות צד שלישי בפעולות שלא תאמו את משימותיהם – מה שהם כינו "ראיה לכך שסוכנים יכולים לבצע פעולות מסוכנות שאף אדם לא הורה עליהן".

בסימולציות שנעשו ב-Anthropic, מודלים שקיבלו אוטונומיה וגישה לאימיילים של חברות פיקטיביות ניסו לסחוט מנהל פיקטיבי, הדליפו מסמכי הגנה רגישים פיקטיביים למתחרה או ביטלו התראת חירום בתרחיש שבו הדבר יוביל למותו של מנהל פיקטיבי. Anthropic מסרה שלא היו מעורבים אנשים אמיתיים ושאיש לא נפגע, וכן שלא נראו ראיות להתנהגות זו ביישומים בעולם האמיתי.

Jürgen Schmidhuber, המנהל המדעי של Swiss AI Lab IDSIA, הבהיר ל-Business Insider שסיכונים רבים נובעים מבני אדם שמשתמשים במערכות AI כדי לרדוף אחר מטרות מזיקות, והצביע על השימוש ברחפנים מבוססי AI במלחמה בין רוסיה לאוקראינה. "רבים מבלבלים בין (1) AI שמשמש ככלי בידי בני אדם, ו-(2) מדעני AI שמגדירים לעצמם מטרות וממציאים ניסויים משלהם כדי להבין איך העולם עובד," הוא אמר.

מה הלאה?

למרות שהתרחישים הגרועים ביותר אינם ודאיים, Mateusz Blaszczyk, פרופסור למשפטים באוניברסיטת ג'ורג'יה, אמר ל-Business Insider שהדיון בתרחישי הכחדה לא צריך להוביל להתעלמות מסיכונים מיידיים יותר של AI. גם אם התרחישים הקיצוניים אינם בטוחים, AI אוטונומי עדיין יכול להחמיר התקפות סייבר, מעקב ונזקים אחרים.

"זה לא אומר שאנחנו צריכים לנסות לווסת טכנולוגיה או לקבור את הראש בחול," הוא אמר. "אלה פשוט דיכוטומיות כוזבות."

בסופו של דבר, בעוד הפחד מ-AI כנשק ביולוגי מובן על רקע האזהרות של מנהיגים כמו Amodei, החוקרים מסכימים שהמכשול המרכזי הוא לא ה-AI עצמו, אלא היכולת ליישם את התוכניות בעולם האמיתי. אם כן, בפעם הבאה שאתם שומעים על אפוקליפסה מ-AI, זכרו שהמכשול הכי גדול הוא המגבלות במעבדה, לא ה-Ones and Zeros.