ידיעות בינה מלאכותית בנושא RISK
טור דעה טוען שמערכות AI, כמו הגולם מהאגדות, מופעלות עם אמון עיוור ומובילות להטיות חבויות. הוא קורא לפיקוח אנושי, מזכיר תקדים משפטי נגד Workday בארה"ב, ומדגיש שבישראל אין עדיין רגולציה ייעודית על אלגוריתמים שמסננים עובדים.
האיחוד האירופי פרסם תוכנית פעולה מקיפה להתמודדות עם איומי AI בתחום הסייבר, כולל הקמת מרכז הערכה אירופי ותחרות Grand Challenge. הבנקים בגוש האירו קיבלו דרישה חד-משמעית: הגישו תוכניות פעולה עד 31 באוקטובר. ברקע — תלות בארה"ב במודלים כמו Anthropic Mythos שלא נחשפים לאירופה.
רגולטורים פיננסיים מובילים באירופה ובבריטניה — כולל Christine Lagarde מה-ECB, ה-FCA ובנק אנגליה — מזהירים שההתפתחות המהירה של AI, במיוחד בתחום הסוכנים האוטונומיים, עוקפת את קבלת ההחלטות הרגולטורית המסורתית. בנק אנגליה אף בוחן 'כפתורי כיבוי' למסחר אוטונומי, בעוד ה-ECB הורה לבנקים להגיש תוכניות הגנת סייבר עד אוקטובר 2026.
חוקרים חושפים כי סוכני ה-AI של Moltbook תלויים בהתערבות אנושית, בניגוד לטענות החברה. הפריצה הוויראלית של הפלטפורמה מדגישה סיכונים תשתיתיים וחוסר שקיפות טכנולוגית, בעוד מומחים קוראים לבדיקה חיצונית דחופה של המערכת.
עידו גל, מייסד Riskified, מספר כיצד הקים חברת פינטק בשווי מיליארדים ללא תואר אקדמי. החברה מציעה ביטוח ייחודי נגד הונאות ונסמכת על לקוחות ענק. לדברי גל, התפתחות ה-AI במסחר המקוון מגבירה את מורכבות ההונאות ומעלה את הצורך בפתרונות מתקדמים כמו שלהם.
מחקרים עדכניים חושפים פערי אמון הולכים וגדלים בין מפתחי AI למשתמשים, לצד גל מתקפות סייבר מתוחכמות. בעוד 77% מהארגונים חסרים הגנות בסיסיות, תקני האבטחה הקיימים אינם רלוונטיים לאיומים החדשים. הפתרון: מסגרות הגנה ייעודיות, שקיפות ארגונית ושיתוף פעולה תעשייתי.
הביקוש המעריכי לחשמל מצד מודלי AI מאיים על יציבות רשתות האנרגיה העולמיות, עם הכפלת צריכת מרכזי הנתונים הצפויה עד 2030. חסמים כמו תורי חיבור של עשר שנים ועלויות חומרי גלם מרקיעות שחקים דורשים מעבר דחוף לאנרגיות מתחדשות. ישראל, הצפויה להכפיל את הביקוש לחשמל עד 2050, חייבת להשקיע בשדרוג תשתיות ולמנף את הפוטנציאל הסולארי שלה.
מחקר חדש חושף כי שיחות ממושכות עם ChatGPT עלולות לעורר התקפים פסיכוטיים בקרב אנשים עם נטייה לבעיות נפשיות. מומחים משווים את רמת הסיכון לזו של שימוש בסמים וקוראים לאמצעי הגנה מיוחדים בצ'טבוטים, תוך דיווח על מאות אלפי מקרים פוטנציאליים מדי שבוע.
OpenAI מגייסת ראש מוכנות חדש שיוביל את הטיפול בסיכונים מתקדמים של מודלי בינה מלאכותית, כולל סייבר, נשק ביולוגי והשפעות על בריאות הנפש. התפקיד, הכולל שכר של 555,000$ ואקוויטי, מתואר כ'מלחיץ וקריטי' עקב הצורך לאזן בין חדשנות לבטיחות. המינוי מגיע לאחר ביקורת על השפעת ChatGPT על משתמשים ושינויים בצוותי הבטיחות של החברה.
אימוץ מהיר של AI בארגונים עלול להוביל לסיכוני הרשאות עודפות וחוב טכני. מקרה דליפת הנתונים במקדונלד'ס, שחשף 64 מיליון מועמדים, ממחיש את הסכנה בהרשאות AI בלתי מפוקחות. ארגונים חייבים לבנות תשתית ניהול סיכונים הכוללת פיקוח מרכזי, מדיניות הרשאות מחמירה והכשרת עובדים למניעת משברים עתידיים.
המאמר בוחן את ההשפעות החברתיות של צ'אטבוטים, כדוגמת ChatGPT. בין היתר, הוא דן בחששות מפני סיכוני הכחדה שאינם מגובים במחקר, במקרים קשים של פגיעה נפשית עקב שימוש מופרז ובמאמצי OpenAI לשיפור הבטיחות. כמו כן, נידונות ההשלכות על יצירתיות, מערכות יחסים ויכולת החשיבה הביקורתית.
Nvidia השיקה את משפחת מודלי ה-Nemotron 3 בקוד פתוח, הכוללת שלושה מודלים: Nano ששוחרר באופן מיידי, ו-Super ו-Ultra שישוחררו ב-2026. המודלים מספקים ביצועים משופרים, יעילות אנרגטית וכלים לפיתוח סוכני AI, ומתמודדים עם תחרות ממטה וממודלים סיניים.
דוחותיה של אורקל חשפו הכנסות נמוכות מהצפוי, לצד הוצאות הון מוגברות על תשתיות AI, ובכלל זה העלאה של 15 מיליארד דולר בתחזית ההוצאה השנתית. נפילת מניית החברה (-14%) והחשש ממינוף חוב גבוה עוררו שאלות לגבי כדאיות ההשקעות האדירות בענף, והשליכו גם על חברות נוספות כמו NVIDIA ו-Broadcom.
משקיעים ומנהלי הון מגבירים את הביקורת על השקעות ה-AI ודורשים הוכחות לרווחיות ולתזרימי מזומנים. למרות המשך השקעות ענק מצד חברות כמו מיקרוסופט ואורקל, הספקנות גוברת לאור הוצאות הון אדירות, מועדי החזר לא ברורים והשוואות היסטוריות לבועת הדוט.קום. מומחים קוראים לבררנות אסטרטגית.
סקרים חושפים פער אמון ב-AI רפואי: 79% מאנשי המקצוע אופטימיים לשימוש בבינה מלאכותית לשיפור תוצאות טיפול, אך הציבור מסויג בשל חשש מאבחון אוטומטי. עם זאת, שני הצדדים רואים פוטנציאל גבוה ביישומים ממוקדים כמו גילוי מוקדם של סרטן, ומומחים מדגישים ששקיפות והדגמות קליניות יכולות לצמצם את הפער.
הכלכלן הראשי של Moody's Analytics מזהיר כי חובן העצום של חברות הטכנולוגיה למימון תשתיות AI עולה על זה שלקראת משבר ה-Y2K. אם ההשקעות לא יניבו תשואות או ייתקלו במחסומי אנרגיה, הדבר עשוי להשפיע לרעה על המערכת הפיננסית העולמית, בסיכון גבוה יותר מבועת הדוט-קום עקב מעורבות שוק אגרות החוב.
ארגונים רבים נופלים למלכודת הביטחון המלאכותי שמספקות מערכות AI, ומזניחים את הביקורת ההכרחית. מחקרים עדכניים חושפים כי הערכת חסר של מגבלות ה-AI מובילה לטעויות אסטרטגיות חמורות, מאי-זיהוי סיכונים עד קבלת החלטות המבוססות על נתונים מוטים. פתרון המשבר דורש מיסוד פרוטוקולי אימות קפדניים והכשרה ביקורתית למקבלי ההחלטות.
קרן הגידור Citadel משיקה צ'אט בוט ופלטפורמת AI מתקדמת לאנליסטי מניות, אך מזהירה מפני העברת שיקולי השקעה לידי המכונה. הכלים נועדו לייעול תהליכי מחקר וזיהוי תבניות שוק, תוך הדגשה שהשיפוט האנושי נותר חיוני.
מומחים קובעים: AI משפר את ניתוח סיכוני ספקים וגורמי צד שלישי, אך חברות חייבות לשמור על אחריות מלאה להחלטות ועל פיקוח אנושי. מעבר מחיזוי פרואקטיבי דורש הקשר עסקי, מנהיגות ושילוב בין AI לבני אדם.
סונדאר פיצ'אי, מנכ"ל גוגל, הזהיר כי בועת ה-AI עלולה לפגוע בכל חברה, כולל גוגל, עקב השקעות מוגזמות. הוא קרא שלא לסמוך בעיניים עצומות על מידע AI בגלל סיכון לטעויות והזיות.
פיטר ת'יל מכר את כל אחזקותיו באנבידיה בשווי 100 מיליון דולר, בעקבות סופטבנק. חששות מבועת AI גוברים, עם קרנות גידור מחולקות ומייקל ברי מהמר נגד. משקיעים ממתינים לדוח אנבידיה.
קרן Saba קפיטל מוכרת CDS לבנקים נגד סיכוני חוב AI בחברות Big Tech כמו Microsoft ו-Amazon. זו פעם ראשונה לעסקאות כאלה, על רקע דאגות מבועת AI. סיכוני מחדל נמוכים יחסית, אך הזהירות גוברת.
AI מתקדמת ביישומים כמו הומור וייעוץ אך מגלה מגבלות מהותיות: 70% צוחקים מבדיחות ChatGPT יותר מבני אדם, 43% מבני דור ה-Gen-Z מתחרטים על ייעוץ פיננסי מ-AI, ו-APA מזהירה מסכנות טיפוליות. מאמר סוקר גם את מאמצי הרגולציה באוהיו והבית הלבן.
Black Duck מרחיבה את פלטפורמת ה-SCA עם AI Model Risk Insights: סריקת מודלי AI (כולל נסתרים ומטושטשים), זיהוי רישוי ומטא-דאטה, תמיכה ברגולציית AI ואינטגרציה ל-DevSecOps.
Rapid7 משיקה שדרוגי AI לפלטפורמת האבטחה שלה תוך חששות שוק עקב ירידה של 53.6% במהלך השנה. המניה נסחרת בהנחה ליעד אנליסטים אך עם מכפיל P/E גבוה מהתעשייה. השילוב בין טכנולוגיה מתקדמת לאתגרים פיננסיים מציב סימני שאלה על יכולת החברה לממש את הפוטנציאל.
גל הבנייה של מרכזי נתונים ל-GenAI צפוי להשקיע 6.7 טריליון דולר עד 2030, עם סיכונים אקלימיים וכלכליים משמעותיים. צריכת האנרגיה העצומה עלולה לעכב את המעבר לאנרגיה נקייה ולהשאיר נכסים תקועים. קרנות פנסיה בעלות 6.17 טריליון דולר חייבות למלא תפקיד מפתח בניהול סיכונים אלו דרך מעורבות אקטיבית בתעשייה וקידום פתרונות אנרגיה בת-קיימא.
חוקר MIT ניל תומפסון חשף בפסגת NDTV World Summit כי טעויות AI נובעות ממגבלות ארכיטקטוניות, והתריע מפני סיכונים עתידיים כמו מערכות בלתי צפויות ופרצות אבטחה. למרות האזהרות, הוא ציין את הפוטנציאל החיובי בתחומי אקלים ורפואה, תוך הדגשת הצורך במנגנוני בקרה קפדניים.
בינה מלאכותית משנה את ענף הביטוח אך יצרה פערים בכיסוי סיכונים. אנדריאה וורד מ-CRC מציינת אתגרים כמו חוסר בהירות משפטית ועומק בלתי צפוי של אחריות. בעוד מתקני ביטוח ייעודיים צומחים, היא מדגישה ש-AI צריך להישאר כלי עזר ולא להחליף שיקול דעת אנושי. הדיונים יימשכו בוועידת הנשים בביטוח באוקטובר.
מחקר עדכני חושף כי יכולות ה-AI גדלות באופן מעריכי, עם יכולת לפרוץ פילטרי בטיחות, לשקר, ולפתח פתוגנים ביולוגיים. מומחים חלוקים האם מדובר באיום קיומי או בהזדמנות כלכלית, אך הראיות לשניהם מצטברות. תחזיות מעריכות כי עד 2028 AI יבצע משימות השקולות לשבוע עבודה אנושי.
פרק בפודקאסט של NPR מזהיר מפני הסיכון שבוטי מסחר מבוססי בינה מלאכותית ייצרו קרטל וירטואלי למניפולציית שווקים. הדבר עלול להיערך בקצב ובקנה מידה חסרי תקדים, כשהמערכת המשפטית לא מצליחה להדביק את הקצב. נדרשים כללי פיקוח חדשים המותאמים לעידן ה-AI.
