ידיעות בינה מלאכותית בנושא ELIEZER YUDKOWSKY
היעלמותו של סם קירשנר, מוביל מחאת AI, בנובמבר 2025 עוררה חששות מאלימות נגד חברות טכנולוגיה כמו OpenAI. הפעילים הזהירו את המשטרה, והקמפוס של OpenAI נסגר זמנית. במקביל, סקרים מראים ש-70% מהמבוגרים בארה"ב מאמינים ש-AI יבטל משרות, ומעבר לאלימות שכבר אירעה – כולל יריות וניסיונות הצתה.
דיווחים חדשים חושפים סיכונים חסרי תקדים מ-AI: מצ'אטבוטים מעודדי אלימות ועד תחזיות הכחדה אפוקליפטיות. במקביל, רגולטורים מתגייסים להגנת הציבור בעוד תאגידים משקיעים מיליארדים בפיתוח טכנולוגיות חדשות. מומחים מזהירים מהוצאות עודפות ותוצרי AI באיכות נמוכה ("workslop"), וקוראים לבניית גבולות אתיים וטכנולוגיים ברורים.
חוקר ה-AI אליעזר יודקובסקי מזהיר שהסכנה האמיתית אינה ב"צ'אטבוטים מעורים" אלא במערכות על-אינטליגנטיות ואדישות שישמידו את האנושות כתופעת לוואי או במתכוון. לטענתו, אין לנו הטכנולוגיה להבטיח יישור קו עם ערכים אנושיים. מומחים כמו אילון מאסק מעריכים סיכויי הכחדה בין 20% ל-99.9%, ויש ההולכים לבבונים תת-קרקעיים.
שלושה ספרים חדשים בוחנים את הסיכונים וההיפי סביב בינה מלאכותית: ספר אזהרה קיצוני מפני השמדה עתידית, לצד ניתוחים על השפעתה המעשית על שוק העבודה. למרות החשיפה הרחבה ל-ChatGPT, הדעות נעות בין אפוקליפסה לבהלה מוגזמת - ללא הכרעה עובדתית.
