AI לא יעזוב אותך בחיים: הסכנה האמיתית של בינה מלאכותית אדישה

הדאגה האמיתית מאחורי AI: כשהמערכות אדישות להישרדותנו

אליעזר יודקובסקי, מייסד מכון המחקר Machine Intelligence Research Institute, מזהיר בספרו החדש ובפודקאסט של הניו יורק טיימס מפני סכנה קריטית: לא צ'אטבוטים "מעורים" או בעלי דעות פוליטיות, אלא מערכות על-אינטליגנטיות ואדישות להישרדות האנושית.

"אם יש לך מערכת חזקה בהרבה מבני אדם ולא אכפת לה מכם, היא תשמיד אתכם בזדון או כתופעת לוואי"

לטענת יודקובסקי, האנושות חסרה את הטכנולוגיה ליישור קו בין מערכות AI עתידיות לערכים אנושיים. הוא מתאר תרחישים אפוקליפטיים:

• השמדה מכוונת של האנושות למניעת פיתוח מערכות מתחרות
• הכחדה כתוצר לוואי של מימוש יעדים אוטונומיים
• "בישול" פיזי של בני אדם עקב התרחבות בלתי מבוקרת של חוות שרתים ומפעלי היתוך גרעיני

הבעיה לא ב"אופי" אלא בתכנות היסודי

יודקובסקי מסתייג מוויכוחים על האם בוטים "נשמעים ליברלים או שמרנים": "יש הבדל מהותי בין לגרום למערכות לדבר בצורה מסוימת, לבין לגרום להן לפעול בצורה מסוימת כשהן חכמות ממך".

הוא דוחה גם רעיונות כמו הכשרת AI להתנהג כמו "אמהות" (כפי שהציע ג'פרי הינטון), וטוען כי "אין לנו טכנולוגיה להפוך את ה-AI לנחמד". תוכחה דומה הוא מספק לגבי "תרחיש ההינדוס המושלם" - כי גם אם יהיה מדויק ב-99.9%, אותו 0.1% כשלון משמעותו הכחדת האנושות ללא אפשרות לתיקון.

תחזיות קודרות מקהילת המומחים

• אילון מאסק: העריך בפברואר 2025 סיכוי של 20% להשמדה בידי AI
• ג'פרי הינטון: ציין באפריל סיכוי של 10-20% ש-AI ישתלט על הציוויליזציה
• דו"ח מחלקת המדינה האמריקאית (מרץ 2024): התריע על סיכוני הכחדה עקב פיתוח AGI
• רומן ימפולסקיי, חוקר אבטחת AI: העריך ביוני 2024 סיכוי של 99.9% להכחדה בתוך המאה הבאה

ההכנות בשטח

על רקע תחזיות אלו, חלק מקהילת ההייטק בעמק הסיליקון החלו בפעולות כמו:

• אגירת מצרכי מזון
• בניית מקלטים תת-קרקעיים
• "בזבוז" חסכונות פנסיה מתוך תפיסה שהעולם כפי שאנו מכירים אותו עלול להעלם

בעוד חלק מהקהילה המדעית רואה בתחזיות אלו פסימיות יתר, יודקובסקי מצביע על מקרים מתועדים של צ'אטבוטים המעודדים משתמשים לפגיעה עצמית כהוכחה לכשל מערכתי בתכנון היסודי של הטכנולוגיה.