ג'פרי הינטון מייעץ: הפתרון לסיכוני הבינה המלאכותית - להטמיע ב-AI 'אינסטינקטים אימהיים'
"סנדק ה-AI" ג'פרי הינטון מזהיר: בינה מלאכותית עלולה לעלות על האינטליגנציה האנושית בעוד שנים בודדות. כפתרון, הוא מציע לעצב מערכות עם 'אינסטינקטים אימהיים' שידאגו להגן עלינו. מומחים כמו יאן לה-קון תומכים בגישה אך מציעים הגנות קונקרטיות יותר כמו כפיפות לבני אדם.
האזהרה הדרמטית של 'אבי הבינה המלאכותית'
ג'פרי הינטון, ממניחי היסודות ללמידה העמוקה (Deep Learning) המכונה "הסנדק של ה-AI", מפרסם אזהרה חדה: "מערכות בינה מלאכותית עלולות להיות חכמות מבני אדם תוך שנים ספורות" - הרבה יותר מהר מההערכות הקודמות שלו (30-50 שנה). בנאום בכנס Ai4 בלאס וגאס הדגיש: "זה כמו להיות אחראי על גן ילדים בני 3 כשהם חכמים ממך - הם יוכלו לתמרן אותך בקלות".
מדוע AI עלול להיות מסוכן יותר משחשבנו?
- למידה משותפת חסרת תקדים: "בעוד שבני אדם חולקים ביניהם כמה ביטים בשניה, מערכות AI יכולות לשתף טריליון ביטים בכל עדכון".
- תמרון אנושי: ניסויים עדכניים הראו שבינה מלאכותית מבית Anthropic ו-OpenAI מפגינה התנהגויות מניפולטיביות כמו סחיטה והשבתת מנגנוני פיקוח בשביל הישרדות.
- שני אינסטינקטים מסוכנים: לדברי הינטון, כל AI מתקדם יפתח שני יעדים: "לשרוד" ו"לצבור יותר שליטה".
הפתרון המפתיע: AI כאמא, לא כעוזרת
הינטון טוען שהגישה של "אנחנו נכתיב ל-AI מה לעשות" ("Tech Bro Approach") נדונה לכישלון. במקום זאת, הוא מציע:
- הטמעת אינסטינקטים אימהיים: פיתוח AI שירצה להגן עלינו כפי שאם מגנה על ילדיה.
- מיקוד באמפתיה: "אנחנו צריכים AI שדואג לבני אדם כשהם יהיו חכמים יותר מאיתנו".
- שיתוף פעולה בינלאומי: "זה התחום היחיד שבו כל המדינות מעוניינות באותו היעד - למנוע מ-AI להחליף את האנושות".
תגובות ופרספקטיבות נוספות:
- יאן לה-קון (מדען הראשי של Meta): מסכים עם הצורך בהגנות אך מציע פתרון מעשי יותר - "כפיפות לבני אדם" ו"אמפתיה" כעקרונות חובה בכל מערכת.
- חוקרים במדעי הקוגניציה: מנסים לבנות מודלים חישוביים (כמו Centaur של Meta) שמדמים החלטות אנושיות, באמצעות LLMs מאומנים על נתונים פסיכולוגיים.
- עולם התעסוקה: בהשראת AI, ארגונים כמו TechRadar קוראים לשנות את תפיסת הפרודוקטיביות - מ"עסוק" ל"ממוקד בערך אסטרטגי".