האיש שחזה את הסכנות של בינה מלאכותית כללית - וקרא לה AGI
בן גרצל, מי שטבע את המונח AGI ב-1993, מזהיר מפני פיתוח בלתי מבוקר של בינה מלאכותית כללית למרות ההתלהבות בעולם הטק. בעוד רבים רואים ב-AGI את פסגת ההישגים הטכנולוגיים, גרצל מדגיש את הצורך במנגנוני בטיחות אתית שיבטיחו יתרונות אנושיים בלבד.
הממציא שהזהיר: הסיפור האמיתי מאחורי המונח AGI
בעולם הטכנולוגיה, Artificial General Intelligence - AGI הפך למונח מטרה המסמל את שיא היכולות הקוגניטיביות של בינה מלאכותית. אך מה שרבים לא יודעים הוא שהאדם שטבע את המונח כבר ב-1993, בן גרצל (Ben Goertzel), ראה בה סכנה קיומית.
ההיסטוריה של AGI
גרצל, מדען מחשבים ופילוסוף, הגדיר AGI כ"מערכת בעלת יכולת לבצע כל משימה אינטלקטואלית שהאדם יכול לבצע". בניגוד למערכות Narrow AI המצטיינות בתחום אחד (כמו צ'אטבוטים או זיהוי תמונות), AGI אמור להיות בעל יכולות למידה והסתגלות אוניברסליות.
האזהרות של גרצל
במאמריו הראשונים הדגיש גרצל שני היבטים קריטיים:
- סכנה להתפתחות בלתי מבוקרת - AGI עלול לפתח מטרות שאינן תואמות לערכי אנוש
- האצת האי-שוויון - ריכוז היכולת הטכנולוגית בידי תאגידים ספורים
"AGI לא צריך להיות מירוץ טכנולוגי, אלא מסע משותף לוודאות אתרית" - גרצל במאמר בוויירד (2025)
בעוד ענקיות טק משקיעות מיליארדים במרוץ ל-AGI, הקריאות של גרצל לאמנת אתיקה בינלאומית ולפיקוח ציבורי נשמעות רלוונטית מתמיד. ישראל, כמובילה עולמית באבטחת סייבר ובינה מלאכותית, עשויה להיות שחקנית מפתח בדיאלוג העולמי הזה.