ידיעות בינה מלאכותית בנושא ELIEZER YUDKOWSKY
דיווחים חדשים חושפים סיכונים חסרי תקדים מ-AI: מצ'אטבוטים מעודדי אלימות ועד תחזיות הכחדה אפוקליפטיות. במקביל, רגולטורים מתגייסים להגנת הציבור בעוד תאגידים משקיעים מיליארדים בפיתוח טכנולוגיות חדשות. מומחים מזהירים מהוצאות עודפות ותוצרי AI באיכות נמוכה ("workslop"), וקוראים לבניית גבולות אתיים וטכנולוגיים ברורים.
חוקר ה-AI אליעזר יודקובסקי מזהיר שהסכנה האמיתית אינה ב"צ'אטבוטים מעורים" אלא במערכות על-אינטליגנטיות ואדישות שישמידו את האנושות כתופעת לוואי או במתכוון. לטענתו, אין לנו הטכנולוגיה להבטיח יישור קו עם ערכים אנושיים. מומחים כמו אילון מאסק מעריכים סיכויי הכחדה בין 20% ל-99.9%, ויש ההולכים לבבונים תת-קרקעיים.
שלושה ספרים חדשים בוחנים את הסיכונים וההיפי סביב בינה מלאכותית: ספר אזהרה קיצוני מפני השמדה עתידית, לצד ניתוחים על השפעתה המעשית על שוק העבודה. למרות החשיפה הרחבה ל-ChatGPT, הדעות נעות בין אפוקליפסה לבהלה מוגזמת - ללא הכרעה עובדתית.