ארה״ב שוקלת לחייב כפתור כיבוי ל-AI: האם זה יעבוד?
מקבלי ההחלטות בארה״ב מתחילים לקדם מהלך שיחייב חברות AI ליצור יכולת השבתה כלל-מערכתית, על רקע חששות מפני AI בלתי נשלט. חוקרים מזהירים שמדובר בפתרון פשטני לבעיות בטיחות מורכבות, מה שמדגיש את הצורך בגישה הוליסטית יותר.
אם ה-AI יגיע לרמה שבה הוא עלול לצאת משליטה, האם כפתור כיבוי יפתור את הבעיה? בארה״ב, מקבלי ההחלטות מתחילים לקדם דרישה שתחייב חברות AI ליצור יכולת השבתה כלל-מערכתית. אבל לפני שנדון בשאלה מי יוסמך ללחוץ על הכפתור, חוקרים מזהירים שמדובר בפתרון פשטני לבעיות בטיחות מורכבות. בעולם שבו מודלים מתקדמים הופכים לחלק בלתי נפרד מתהליכי פיתוח, השאלה אם ניתן יהיה ״לכבות״ אותם בלחיצת כפתור מקבלת חשיבות חדשה. מי יקבע מתי ללחוץ עליו? ועד כמה הכפתור הזה יעיל? הדיון משפיע על כל מי שעובד בתחום – כי ההחלטות האלה מעצבות את העתיד של הכלים שלכם.