ביל גייטס: AI עלול לאפשר מגפה חמורה יותר מקוביד-19

תארו לכם שבינה מלאכותית יכולה לעזור לגורמים עוינים לפתח נשק ביולוגי — או להפוך מגפה עולמית לסיוט גדול יותר מזה של הקורונה. זה בדיוק מה שמטריד את ביל גייטס, ממייסדי מיקרוסופט, שהזהיר לאחרונה מפני האיומים הללו. את הדברים הוא אמר בכנס Future of AI של Financial Times בלונדון, והוסיף ביקורת חריפה על ממשל טראמפ שמעכב פיקוח בינלאומי.

גייטס, שמקדיש חלק ניכר מזמנו לבריאות הציבור, כבר הזהיר ב-2015 שהעולם אינו ערוך למגפה. עכשיו, עם ההתקדמות של AI, החששות שלו החריפו. לדבריו, מודלים מתקדמים יכולים לנתח כמויות עצומות של מידע מדעי, לזהות קשרים ולכוון מחקר — אותן יכולות שמשמשות לפיתוח תרופות עלולות לסייע למי שרוצה לנצל ידע ביולוגי לרעה.

איך זה עובד בפועל?

כלי AI כבר משמשים לפיצוח מבני חלבונים ולפיתוח טיפולים. אבל גייטס חושש שהטכנולוגיה תפחית חסמים ותאפשר לאנשים עם ידע מוגבל להשיג מידע מקצועי, כך שיותר גורמים יוכלו לנסות לפתח נשק ביולוגי. הוא מדגיש שהנזק מאירוע ביולוגי בסיוע AI עלול להיות חמור "משמעותית" ממה שראינו בקורונה. כמובן, מודלי AI עדיין לא יכולים לייצר מגפה לבד — הם צריכים מעבדה ומומחיות — אבל הם מקלים על התהליך.

גייטס מודאג במיוחד ממודלים פתוחים, שהמשקלים שלהם זמינים להורדה. במקרים כאלה, אפשר להסיר מנגנוני בטיחות, וקשה לפקח על השימוש. "זה לא שמודלים פתוחים מסוכנים יותר בהכרח, או שמערכות עם מנגנוני הגנה חסינות", הוא מסביר, "הבעיה היא השילוב בין מודלים חזקים יותר, זמינות גוברת וקושי בפיקוח."

מעבר לסכנה הטכנולוגית, גייטס תוקף את ממשל טראמפ. ארצות הברית, שבה פועלות רבות מחברות ה-AI המובילות, לא משתפת פעולה כראוי עם מאמצים בינלאומיים לקבוע כללי פיקוח. "ברגע שמתווספות חברות נוספות, הדרך היחידה לפתור את הבעיה עוברת לידי הממשלה", הוא אמר. "הפתרון היחיד הוא הממשלה."

לדבריו, בלי מעורבות אמריקנית, יהיה "בלתי אפשרי" לגבש מנגנון פיקוח עולמי. "אין הרבה ערך לפעולה אם ארצות הברית אינה חלק ממנה. לכן אנחנו נמצאים במבוי סתום", הוסיף.

מה אפשר לעשות כבר עכשיו?

גייטס מציע כמה צעדים: קביעת תקני בטיחות מחייבים למודלים מתקדמים, עם מנגנוני ניטור ובדיקות אבטחה; חיזוק ההגנה על תשתיות חיוניות מפני מתקפות סייבר שעלולות לנצל פרצות במהירות; והרחבת הניטור הבריאותי — למשל, בדיקות אוויר וביוב כדי לזהות התפרצויות מוקדם.

הוא דוגל ברעיון של מערכות ניטור שמסוגלות לאתר סימנים לאירועים ביולוגיים חריגים, גם כאלה שקשורים לפעילות זדונית. "הרעיון הוא להפוך ניטור כזה לחלק ממערך הגנה רחב", הוא הסביר.

עם זאת, גייטס לא שוכח את הפוטנציאל החיובי של AI: אותן יכולות שמעוררות חשש יכולות גם להאיץ פיתוח תרופות ולשפר אבחון רפואי. הוא שיבח את Anthropic על כך שהיא מדברת בגלוי על סיכונים, וציטט אותה: "הם תמיד היו פתוחים מאוד."

אז בינתיים, הפיתוחים של AI ממשיכים, והשאלה היא אם המגפה הגדולה ביותר עדיין לפנינו. אם זה תלוי בגייטס, הממשלה צריכה להיכנס לעניינים — לפני שיהיה מאוחר מדי.