״אין לנו שליטה על AI״: מדענים מזהירים
לורנס לסיג ויהושע בנג'יו פרסמו אזהרה חריפה: מדעני בינה מלאכותית אינם מצליחים לשלוט בטכנולוגיה. הם מציעים ארבעה צעדים למניעת אסון AI, על רקע התנגדותם של פוליטיקאים בארה״ב לחוקי בטיחות ב-2024, בטענה שהסיכונים היפותטיים. המאמר קורא לפעולה מונעת, בניגוד לגישה של המתנה.
לורנס לסיג ויהושע בנג'יו, שניים מהקולות הבולטים בעולם ה-AI, פרסמו מאמר דעה שבו הם מתריעים: מדעני בינה מלאכותית אינם מצליחים לשלוט בטכנולוגיות שהם עצמם מפתחים. השניים קוראים לקובעי מדיניות לפעול מיד, בלי לחכות שהאזהרות יתבררו כנכונות.
הם מציעים ארבעה שינויים שמטרתם להפחית את הסיכון לאסון AI, על רקע דיונים עולמיים על רגולציה ובטיחות. ב-2024, חברי המשלחת של קליפורניה לקונגרס ניסו לחסום חוק מדינתי לבטיחות AI, בטענה שהסיכונים ״היפותטיים״ ושייכים למדע בדיוני — עמדה שהמדענים מתנגדים לה נחרצות.
המאמר מדגיש את הצורך בפעולה מונעת, לפני שיהיה מאוחר מדי. בעולם שבו מודלים חדשים צצים כל שבוע, המסר ברור: אי אפשר לסמוך על כך שהטכנולוגיה תישאר בשליטה מעצמה.