AGI ו-ASI: האם הייחודיות האנושית עומדת להסתיים?

תארו לכם עולם שבו בני האדם כבר לא נמצאים בפסגה. זה נשמע כמו מדע בדיוני, אבל הוויכוח סביב בינה מלאכותית כללית (AGI) ובינה מלאכותית על-אנושית (ASI) נוגע בדיוק בזה – לשאלה אם הייחודיות שלנו כבני אדם, אותה תחושת עליונות שליוותה אותנו לאורך ההיסטוריה, תגיע לסופה.

אז מה הסיפור פה?

בבסיס הדיון עומדת הנחה ארוכת שנים: בני אדם הם היצורים העליונים על פני כדור הארץ. אנחנו ייחודיים בהשוואה לחיות, צמחים ואפילו לכוחות הטבע. הכול קיים כדי לשרת אותנו, כי אנחנו חלק נפרד מהטבע – עליון עליו. זה לא בדיוק צנוע, אבל זו התפיסה הרווחת. עכשיו, עם ההתפתחות המסחררת בתחום ה-AI, עולה שאלה מטרידה: מה קורה כשבינה מלאכותית מתחילה להשתוות לנו, או אפילו לעלות עלינו?

AGI, בינה מלאכותית כללית, מוגדרת כ-AI ברמת האינטליגנציה האנושית. היא יכולה להבין, ללמוד ולפעול כמונו בתחומים רבים. ASI, בינה מלאכותית על-אנושית, היא צעד קדימה – AI שעולה עלינו בכל היבט, ומשאיר אותנו הרחק מאחור מבחינת יכולות החשיבה. בעולם שבו מודל AI כזה מושג, האם עדיין נוכל לקרוא לעצמנו יוצאי דופן?

הוויכוח בין ה'דומים' ל'מואצים'

בתעשיית ה-AI, העוסקים בתחום מתחלקים לשני מחנות עיקריים. הראשון הוא ה'דומים' (doomers), שחוזים תרחיש אימים: AGI או ASI עלולים להשמיד את האנושות. הם מדברים על 'P(doom)', ההסתברות לאסון קיומי, שבו AI משתלט עלינו ומחסל אותנו. המחנה השני, ה'מואצים' (accelerationists), טוענים ש-AI מתקדם דווקא יפתור את הבעיות של האנושות – ירפא מחלות, ילחם ברעב ויביא רווחה כלכלית. לטענתם, AI כזה יעבוד לצד בני אדם, ויהיה ההמצאה האחרונה שלנו, כזו שתמציא דברים שמעולם לא יכולנו לדמיין.

אף אחד לא יודע בוודאות מי צודק. הוויכוח הזה הוא אחד המאפיינים של זמננו, והוא נוגע ישירות למי שעובד בתחום: מה המשמעות של פיתוח טכנולוגיה שיכולה להפוך אותנו למיותרים?

האם AGI יתפוס את המקום הראשון?

בואו נבחן תחילה את המקרה של AGI. אם נגיע ל-AGI, תהיה לנו ישות חישובית ששווה לנו ביכולות. בתסריט כזה, אפשר לטעון ש-AGI יישב על אותו כס כמונו – נצטרך לפנות לו מקום. יש הטוענים ש-AGI לא יהיה בהכרח מודע לעצמו, ולכן לא יהיה שווה לנו. אולי הוא יישאר ישות נחותה, במקום השני.

מנגד, אחרים טוענים ש-AGI הוא סך כל האינטליגנציה האנושית בישות אחת. אף אדם בודד לא יכול להתאים ל-AGI; הוא עליון ביכולתו הקולקטיבית. ולכן, בני אדם צריכים לוותר על המקום הראשון, ללא קשר לשאלה אם יש לו 'ניצוץ חיים'. הוויכוח הזה עדיין נמשך, ויש אף מי שטוען ש-AGI אינו ישות אחת אלא מערך מבוזר.

נקודת מבט נוספת היא שמכיוון ש-AGI נוצר על ידי בני אדם, הוא לעולם לא יכול להיות מעלינו. מה שאנחנו יוצרים חייב, כביכול, להיות פחות מאיתנו. אבל לא כולם מקבלים את הלוגיקה הזו.

ASI גורם לנו לאבד את העמדה העליונה

כשמדובר ב-ASI, הסיפור הופך ברור יותר. אם נגיע ל-AI על-אנושי, הוא יעלה עלינו באינטליגנציה כמעט בכל דרך אפשרית. ASI יוכל לפתור בעיות שאנחנו לא יכולים, לראות דברים שאנחנו מפספסים ולהתעלות עלינו ביצירתיות, בפתרון בעיות ובחשיבה. במקרה כזה, הייחודיות האנושית כנראה תיפגע קשות.

המאמר מציין שגם אם ASI יהיה עליון, עדיין ניתן לטעון שכל צורה של אינטליגנציה – אנושית, AGI או ASI – היא ייחודית בדרכה שלה. המוח האנושי הוא תוצאה של מיליוני שנות אבולוציה, עם רגשות, תודעה ויצירתיות ייחודיים. AGI, לעומת זאת, יהיה מבוסס על אלגוריתמים ונתונים, עם יכולות קולקטיביות שאין לאף אדם. ASI עשוי לפתח אינטליגנציה מסוג אחר לחלוטין, שקשה לנו בכלל להבין.

מה זה אומר עלינו?

בסופו של דבר, הדיון הזה לא עוסק רק בטכנולוגיה – הוא נוגע בזהות שלנו. אם AI הופך לישות העליונה, מה זה עושה לתפיסת העולם שלנו? בתעשיית ההיי-טק הישראלית, שבה עובדים על כלי AI מתקדמים, השאלה הזו רלוונטית מתמיד. אתם מפתחים מודלים שיום אחד עשויים להפוך ל-AGI, וצריכים לחשוב על ההשלכות.

המאמר מציע גישה מתונה: במקום לראות את זה כאיום, אפשר להסתכל על כל סוג של אינטליגנציה כייחודי בתחומו. בני אדם ייחודיים ביצירתיות הרגשית ובחשיבה המורכבת שלנו. AI, בין אם מדובר ב-AGI ובין אם ב-ASI, עשוי להיות ייחודי ביכולות החישוביות ובמהירות שלו. אולי העתיד לא עוסק בלהחליף אותנו, אלא בלהשלים אותנו.

בסופו של דבר, אם AI יהפוך לישות העליונה, ייתכן שהייחודיות האנושית פשוט תשנה צורה – ולא תיעלם.