גייטס: ״מתג כיבוי״ ל-AI לא ימנע מיליארד מקרי מוות
ביל גייטס קורא לארצות הברית להוביל רגולציה גלובלית על AI, טוען שמתגי כיבוי לא יספיקו ומשווה את האתגר למשא ומתן הגרעיני במלחמה הקרה. הוא מזהיר שמיליארד מקרי מוות אפשריים בשימוש זדוני ב-AI, ומציין דוגמאות קונקרטיות כמו הונאות ומתקפות סייבר.

ביל גייטס, מייסד Microsoft, משמיע אזהרה דרמטית שכבר שמעתם ממקורות רבים: ״AI יכולה לגרום למותם של מיליארד בני אדם״, הוא אמר בריאיון ל-NBC News. אבל הסיפור האמיתי כאן הוא לא רק האזהרה — אלא הפתרון שהוא מציע, או ליתר דיוק, מה שהוא חושב על הפתרונות הקיימים.
בריאיון לתוכנית ״Meet the Press״ ביום ראשון, גייטס טוען שפתרון ״מתג כיבוי״ ל-AI — כלומר, אפשרות לכבות את השרתים במקרה חירום — פשוט לא מספיק. ״זה לא מספיק שיהיה מתג כיבוי״, הוא אמר. ״אנחנו מרגישים שהלבטים של הגורמים הטכניים והלא-טכניים בעולם חשובים, אבל הסכנה הגדולה ביותר היא כוונות רעות של אנשים.״
דבריו של גייטס מציינים שינוי דרמטי בנקודת המבט שלו. לפני שלוש שנים, בשנת 2023, הוא כתב פוסט בבלוג שבו אמר ש״הסיכונים של AI הם אמיתיים אבל ניתנים לניהול״. עכשיו, הוא נשמע יותר פסימי. ״מעולם לא היה כלי נשק רב-עוצמה כל כך כמו השילוב של אנשים עם כוונות זדון שמשתמשים בכלי ה-AI העדכניים ביותר״, הוא הסביר. ״AI יכולה לעזור למדענים ליצור תרופות חדשות, אבל גם יכולה לעזור לטרוריסטים ליצור גורמי מחלה ביולוגיים.״
גייטס טוען שההתמקדות צריכה להיות במנגנוני פיקוח חובה, ולא במתגי כיבוי פשוטים. ״זה לגמרי לא אחראי לדרוש ממערכות AI אמצעי הגנה ויכולות פיקוח כאלה״, הוא אמר. הוא ציין דוגמאות מהתעשייה: לאחרונה, Anthropic, חברת AI מובילה, שיתפה פעולה עם Accenture כדי לבצע הערכה חיצונית של מודלי ה-AI שלה. אבל לדברי גייטס, זה צעד נכון, אבל לא מספיק. ״צריך חקיקה בקונגרס האמריקאי״, הוא קורא.
אבל הנה הקוץ: איך להסכים על רגולציה גלובלית? גייטס טוען שזה אתגר עצום, אפילו יותר מהמשא ומתן על נשק גרעיני בתקופת המלחמה הקרה. ״זה יותר קשה ממה שהיה אז״, הוא אמר. ״מדינות צריכות לרצות שמנגנוני ההגנה האלה יהיו קיימים.״ הוא קורא לארצות הברית להוביל את המאמץ הזה, אבל עומד מול התנגדות עזה מצד הנשיא דונלד טראמפ.
טראמפ אמר לאחרונה ש״כל מי שמנצח ב-AI, מנצח!״ וטוען שארצות הברית מקדימה את סין. גייטס דוחה את הטענה הזו בתוקף. ״גם סין צריכה להיות חלק מהרגולציה״, הוא אמר. ״כל המדינות צריכות לרצות שמנגנוני ההגנה האלה יהיו קיימים.״ לדבריו, שימוש לרעה ב-AI יכול לפגוע בכל המדינות, כולל סין, וההנחה שסין לא תיישם הגנות היא שגויה.
בפועל, הסכנות המיידיות שנתפסות בעיני הציבור — כמו מודלים שהופכים למודעים — פחות מטרידות את גייטס. במקום זאת, הוא מתמקד בהונאות מתקדמות, במתקפות סייבר ובפיתוח נשק ביולוגי. ״AI יכולה לעזור לנו להתמודד עם מגפות עתידיות, אבל אם גורמים רעים ישיגו גישה, הם יכולים להשתמש בה כדי ליצור איומים חדשים״, הוא אמר.
מה ההשפעה על תעשיית ה-AI הישראלית? חברות כמו DeepSeek ו-SoundHound AI, שפועלות גלובלית, ייאלצו להתייחס לתקנות בינלאומיות. רגולציה עשויה לדרוש השקעה נוספת במנגנוני ביטחון ולהאט קצת את החדשנות, אבל גייטס טוען שזו הדרך היחידה למנוע אסון. ״אנחנו יוצרים סוג חדש של אינטליגנציה״, הוא סיכם, ״וכשמדובר בכלים עוצמתיים כאלה, האחריות היא עלינו.״
גייטס הציג אתגר שמנהלי חברות AI כאן בתל אביב מכירים מקרוב: איך לחדש מהר מדי בלי לשבור דברים. אבל כאן, אנשים עם כוונות טובות מנסים לבנות, והוא מזהיר מפני אנשים עם כוונות רעות. בעולם כזה, אולי השאלה האמיתית היא לא אם ממשלה צריכה להתערב, אלא אם היא יכולה לעשות זאת ביעילות. אחרי הכול, בזמן שפוליטיקאים חוקרים, מודלי AI חדשים כבר בדרך לייצור.