ידיעות בינה מלאכותית בנושא RISKS
מחקר חדש חושף כי שיחות ממושכות עם ChatGPT עלולות לעורר התקפים פסיכוטיים בקרב אנשים עם נטייה לבעיות נפשיות. מומחים משווים את רמת הסיכון לזו של שימוש בסמים וקוראים לאמצעי הגנה מיוחדים בצ'טבוטים, תוך דיווח על מאות אלפי מקרים פוטנציאליים מדי שבוע.
המאמר בוחן את ההשפעות החברתיות של צ'אטבוטים, כדוגמת ChatGPT. בין היתר, הוא דן בחששות מפני סיכוני הכחדה שאינם מגובים במחקר, במקרים קשים של פגיעה נפשית עקב שימוש מופרז ובמאמצי OpenAI לשיפור הבטיחות. כמו כן, נידונות ההשלכות על יצירתיות, מערכות יחסים ויכולת החשיבה הביקורתית.
פיטר ת'יל מכר את כל אחזקותיו באנבידיה בשווי 100 מיליון דולר, בעקבות סופטבנק. חששות מבועת AI גוברים, עם קרנות גידור מחולקות ומייקל ברי מהמר נגד. משקיעים ממתינים לדוח אנבידיה.
קרן Saba קפיטל מוכרת CDS לבנקים נגד סיכוני חוב AI בחברות Big Tech כמו Microsoft ו-Amazon. זו פעם ראשונה לעסקאות כאלה, על רקע דאגות מבועת AI. סיכוני מחדל נמוכים יחסית, אך הזהירות גוברת.
AI מתקדמת ביישומים כמו הומור וייעוץ אך מגלה מגבלות מהותיות: 70% צוחקים מבדיחות ChatGPT יותר מבני אדם, 43% מבני דור ה-Gen-Z מתחרטים על ייעוץ פיננסי מ-AI, ו-APA מזהירה מסכנות טיפוליות. מאמר סוקר גם את מאמצי הרגולציה באוהיו והבית הלבן.
חוקר MIT ניל תומפסון חשף בפסגת NDTV World Summit כי טעויות AI נובעות ממגבלות ארכיטקטוניות, והתריע מפני סיכונים עתידיים כמו מערכות בלתי צפויות ופרצות אבטחה. למרות האזהרות, הוא ציין את הפוטנציאל החיובי בתחומי אקלים ורפואה, תוך הדגשת הצורך במנגנוני בקרה קפדניים.
מחקר עדכני חושף כי יכולות ה-AI גדלות באופן מעריכי, עם יכולת לפרוץ פילטרי בטיחות, לשקר, ולפתח פתוגנים ביולוגיים. מומחים חלוקים האם מדובר באיום קיומי או בהזדמנות כלכלית, אך הראיות לשניהם מצטברות. תחזיות מעריכות כי עד 2028 AI יבצע משימות השקולות לשבוע עבודה אנושי.
חוקר ה-AI אליעזר יודקובסקי מזהיר שהסכנה האמיתית אינה ב"צ'אטבוטים מעורים" אלא במערכות על-אינטליגנטיות ואדישות שישמידו את האנושות כתופעת לוואי או במתכוון. לטענתו, אין לנו הטכנולוגיה להבטיח יישור קו עם ערכים אנושיים. מומחים כמו אילון מאסק מעריכים סיכויי הכחדה בין 20% ל-99.9%, ויש ההולכים לבבונים תת-קרקעיים.
:max_bytes(150000):strip_icc():format(webp)/GettyImages-2220025422-5820834e308f45eb8f6f852c6062663f.jpg)
סקר חדש מגלה ש-19% מהאמריקאים איבדו מעל 100$ עקב ייעוץ פיננסי מ-AI כמו ChatGPT, עם סיכון גבוה יותר בקרב דור ה-Z (27%). מומחים מזהירים מפני עצות לא מעודכנות, הזיות AI וחוסר התאמה אישית. למרות החיסכון הכספי, השימוש בבינה מלאכותית לתכנון פיננסי עלול לעלות יותר מעלות ייעוץ אנושי מקצועי.