גייטס: מתגי כיבוי ל-AI לא מספיקים — צריך רגולציה עולמית

ביל גייטס, האיש שסייע להגדיר את עידן המחשב האישי, יצא השבוע באזהרה חריפה: תעשיית ה-AI מסתמכת יותר מדי על מנגנוני ״כיבוי״ (kill switches) פשוטים, בזמן שהאיומים המיידיים והקשים הרבה יותר — כמו מתקפות סייבר, הונאות פיננסיות וביוטרוריזם — דורשים פיקוח צמוד וחכם בהרבה.

בשיחה נרחבת בתוכנית ״פגוש את העיתונות״ של NBC, האיש שהפך לשם נרדף לתוכנה טען שהדיון הציבורי סביב מתג כיבוי ל-AI חושף בעיקר ״כמה אנשים שאינם טכניים״. ״אנחנו עדיין לא בשלב שבו בינה מלאכותית משתלטת בעצמה על מחשבים ואי אפשר לכבות אותה״, הסביר גייטס. ״אז הדיון הזה... מראה עד כמה אנשים שונים אינם טכניים״.

דבריו באים בתזמון קריטי, בעוד ממשל טראמפ נוקט בקו ליברטריאני כלפי ה-AI. הנשיא טראמפ פרסם לאחרונה ב-Truth Social: ״מי שינצח ב-AI, ינצח! אנחנו מובילים את סין, ואת כל השאר, ונמשיך לעשות זאת״. גייטס, מצדו, מתעקש שפיקוח רגולטורי לא יאט את ארה״ב במרוץ הזה. ״מה שהוא [טראמפ] אמר זה בסדר, אבל אני חושב שכשהוא ישמע גורמים בקונגרס, שדעותיהם הפוכות משלו, הוא עשוי להשתכנע״, אמר.

אז מה בעצם קרה כאן?

גייטס טוען שההתמקדות במתגי כיבוי מסיחה את הדעת. ״הסכנה הגדולה ביותר היא לא שה-AI ישתלט״, הוא אומר, ״אלא שגורמים עוינים ישתמשו ב-AI לביוטרוריזם או לביצוע הונאות פיננסיות בהיקף ענק״. כדי להתמודד עם זה, הוא קורא לחובת פיקוח: ״זה לגמרי לא אחראי לדרוש מ-AI לפעול ללא הגנה וללא מנגנוני פיקוח״. דוגמה לכך אפשר למצוא ב-Anthropic, שבחרה לאחרונה ב-Accenture כמבקרת צד שלישי לדגמי ה-AI שלה.

״קשה יותר ממלחמת הגרעין״

גייטס סיפק פרספקטיבה היסטורית מרחיקת לכת: לדבריו, השגת הסכם עולמי על רגולציה של AI תהיה ״קשה יותר״ מאשר משא ומתן גרעיני בתקופת המלחמה הקרה. ״זה יותר קשה ממה שהיה אז״, הוא אמר.

דבריו מגיעים על רקע דיווחים על מגעים חשאיים בין חברות כמו OpenAI, Anthropic ו-Google בנוגע לנושאי בטיחות AI, אך גייטס טוען שדיאלוג בין חברות פרטיות אינו תחליף לרגולציה בינלאומית. הוא קרא לארצות הברית להוביל את המהלך, ולקונגרס לחוקק חוקים.

שני שלבים, 20 שנה, ועידן השפע

גייטס תיאר חזון דו-שלבי ל-AI. השלב הראשון, שבו אנו נמצאים כנראה, הוא תקופת הסתגלות של כ-20 שנה, שבה ה-AI ״משנה את שוק העבודה ומעצים פושעים״ בהיעדר הגנה מספקת. ״אלא אם יהיו לנו ההגנות הנכונות״, הוא אמר. אחרי שעוברים את זה, מגיע שלב 2: ״שילוב של רובוטים הומנואידים ובינה מלאכותית יספק לנו אפשרות לבנות בתים, לגדל מזון ולעשות הרבה דברים. אפשר לקרוא לזה עידן של שפע״.

דבריו של גייטס מהדהדים אזהרות דומות שהושמעו לאחרונה על ידי ראשי חברות AI כמו Dario Amodei (Anthropic) ו-Sam Altman (OpenAI), אך הם מגיעים מזווית ייחודית: לא של יזם שדוחף קדימה, אלא של פילנתרופ ותיק שראה טכנולוגיות באות והולכות. הוא לא שולל את היתרונות, אבל מתעקש שהמחיר של אי-רגולציה עלול להיות קטסטרופלי — ומדבר על פוטנציאל ל״מיליארד מקרי מוות״ אם ה-AI יישאר ללא פיקוח.

מה הלאה?

בינתיים, חברות ה-AI נמצאות במרוץ. חלקן, כמו OpenAI ו-Google, מגדילות את תקציבי המחקר שלהן לבטיחות AI. אחרות, כמו Anthropic, נעזרות בחברות חיצוניות לביקורת. אך גייטס טוען שהמאמצים הללו, חשובים ככל שיהיו, אינם תחליף למדיניות בינלאומית מתואמת — כזו שתדרוש פיקוח, שקיפות ומנגנוני הגנה מחייבים.

הוא לא סיפק מתכון מדויק, אבל האזהרה ברורה: תעשיית ה-AI, כפי שהיא נראית עכשיו, מזכירה יותר את תחילת עידן הגרעין מאשר את מהפכת התוכנה. וכמו במקרה של נשק גרעיני, גם כאן — אין תחליף להסדרה בינלאומית. או כפי שסיכם: ״אנחנו צריכים לדרוש מכל בינה מלאכותית את מנגנוני ההגנה והפיקוח האלה״. זה אולי נשמע טריוויאלי, אבל בעולם שבו הנשיא האמריקני מכריז ״מי שינצח ב-AI, ינצח״, זה עשוי להיות מאבק פוליטי קשה אפילו יותר מבחינה טכנולוגית.