ידיעות בינה מלאכותית בנושא RISK
עידו גל, מייסד Riskified, מספר כיצד הקים חברת פינטק בשווי מיליארדים ללא תואר אקדמי. החברה מציעה ביטוח ייחודי נגד הונאות ונסמכת על לקוחות ענק. לדברי גל, התפתחות ה-AI במסחר המקוון מגבירה את מורכבות ההונאות ומעלה את הצורך בפתרונות מתקדמים כמו שלהם.
מחקרים עדכניים חושפים פערי אמון הולכים וגדלים בין מפתחי AI למשתמשים, לצד גל מתקפות סייבר מתוחכמות. בעוד 77% מהארגונים חסרים הגנות בסיסיות, תקני האבטחה הקיימים אינם רלוונטיים לאיומים החדשים. הפתרון: מסגרות הגנה ייעודיות, שקיפות ארגונית ושיתוף פעולה תעשייתי.
הביקוש המעריכי לחשמל מצד מודלי AI מאיים על יציבות רשתות האנרגיה העולמיות, עם הכפלת צריכת מרכזי הנתונים הצפויה עד 2030. חסמים כמו תורי חיבור של עשר שנים ועלויות חומרי גלם מרקיעות שחקים דורשים מעבר דחוף לאנרגיות מתחדשות. ישראל, הצפויה להכפיל את הביקוש לחשמל עד 2050, חייבת להשקיע בשדרוג תשתיות ולמנף את הפוטנציאל הסולארי שלה.
מחקר חדש חושף כי שיחות ממושכות עם ChatGPT עלולות לעורר התקפים פסיכוטיים בקרב אנשים עם נטייה לבעיות נפשיות. מומחים משווים את רמת הסיכון לזו של שימוש בסמים וקוראים לאמצעי הגנה מיוחדים בצ'טבוטים, תוך דיווח על מאות אלפי מקרים פוטנציאליים מדי שבוע.
OpenAI מגייסת ראש מוכנות חדש שיוביל את הטיפול בסיכונים מתקדמים של מודלי בינה מלאכותית, כולל סייבר, נשק ביולוגי והשפעות על בריאות הנפש. התפקיד, הכולל שכר של 555,000$ ואקוויטי, מתואר כ'מלחיץ וקריטי' עקב הצורך לאזן בין חדשנות לבטיחות. המינוי מגיע לאחר ביקורת על השפעת ChatGPT על משתמשים ושינויים בצוותי הבטיחות של החברה.
המאמר בוחן את ההשפעות החברתיות של צ'אטבוטים, כדוגמת ChatGPT. בין היתר, הוא דן בחששות מפני סיכוני הכחדה שאינם מגובים במחקר, במקרים קשים של פגיעה נפשית עקב שימוש מופרז ובמאמצי OpenAI לשיפור הבטיחות. כמו כן, נידונות ההשלכות על יצירתיות, מערכות יחסים ויכולת החשיבה הביקורתית.
Nvidia השיקה את משפחת מודלי ה-Nemotron 3 בקוד פתוח, הכוללת שלושה מודלים: Nano ששוחרר באופן מיידי, ו-Super ו-Ultra שישוחררו ב-2026. המודלים מספקים ביצועים משופרים, יעילות אנרגטית וכלים לפיתוח סוכני AI, ומתמודדים עם תחרות ממטה וממודלים סיניים.
דוחותיה של אורקל חשפו הכנסות נמוכות מהצפוי, לצד הוצאות הון מוגברות על תשתיות AI, ובכלל זה העלאה של 15 מיליארד דולר בתחזית ההוצאה השנתית. נפילת מניית החברה (-14%) והחשש ממינוף חוב גבוה עוררו שאלות לגבי כדאיות ההשקעות האדירות בענף, והשליכו גם על חברות נוספות כמו NVIDIA ו-Broadcom.
משקיעים ומנהלי הון מגבירים את הביקורת על השקעות ה-AI ודורשים הוכחות לרווחיות ולתזרימי מזומנים. למרות המשך השקעות ענק מצד חברות כמו מיקרוסופט ואורקל, הספקנות גוברת לאור הוצאות הון אדירות, מועדי החזר לא ברורים והשוואות היסטוריות לבועת הדוט.קום. מומחים קוראים לבררנות אסטרטגית.
סקרים חושפים פער אמון ב-AI רפואי: 79% מאנשי המקצוע אופטימיים לשימוש בבינה מלאכותית לשיפור תוצאות טיפול, אך הציבור מסויג בשל חשש מאבחון אוטומטי. עם זאת, שני הצדדים רואים פוטנציאל גבוה ביישומים ממוקדים כמו גילוי מוקדם של סרטן, ומומחים מדגישים ששקיפות והדגמות קליניות יכולות לצמצם את הפער.
הכלכלן הראשי של Moody's Analytics מזהיר כי חובן העצום של חברות הטכנולוגיה למימון תשתיות AI עולה על זה שלקראת משבר ה-Y2K. אם ההשקעות לא יניבו תשואות או ייתקלו במחסומי אנרגיה, הדבר עשוי להשפיע לרעה על המערכת הפיננסית העולמית, בסיכון גבוה יותר מבועת הדוט-קום עקב מעורבות שוק אגרות החוב.
ארגונים רבים נופלים למלכודת הביטחון המלאכותי שמספקות מערכות AI, ומזניחים את הביקורת ההכרחית. מחקרים עדכניים חושפים כי הערכת חסר של מגבלות ה-AI מובילה לטעויות אסטרטגיות חמורות, מאי-זיהוי סיכונים עד קבלת החלטות המבוססות על נתונים מוטים. פתרון המשבר דורש מיסוד פרוטוקולי אימות קפדניים והכשרה ביקורתית למקבלי ההחלטות.
קרן הגידור Citadel משיקה צ'אט בוט ופלטפורמת AI מתקדמת לאנליסטי מניות, אך מזהירה מפני העברת שיקולי השקעה לידי המכונה. הכלים נועדו לייעול תהליכי מחקר וזיהוי תבניות שוק, תוך הדגשה שהשיפוט האנושי נותר חיוני.
מומחים קובעים: AI משפר את ניתוח סיכוני ספקים וגורמי צד שלישי, אך חברות חייבות לשמור על אחריות מלאה להחלטות ועל פיקוח אנושי. מעבר מחיזוי פרואקטיבי דורש הקשר עסקי, מנהיגות ושילוב בין AI לבני אדם.
סונדאר פיצ'אי, מנכ"ל גוגל, הזהיר כי בועת ה-AI עלולה לפגוע בכל חברה, כולל גוגל, עקב השקעות מוגזמות. הוא קרא שלא לסמוך בעיניים עצומות על מידע AI בגלל סיכון לטעויות והזיות.
פיטר ת'יל מכר את כל אחזקותיו באנבידיה בשווי 100 מיליון דולר, בעקבות סופטבנק. חששות מבועת AI גוברים, עם קרנות גידור מחולקות ומייקל ברי מהמר נגד. משקיעים ממתינים לדוח אנבידיה.
קרן Saba קפיטל מוכרת CDS לבנקים נגד סיכוני חוב AI בחברות Big Tech כמו Microsoft ו-Amazon. זו פעם ראשונה לעסקאות כאלה, על רקע דאגות מבועת AI. סיכוני מחדל נמוכים יחסית, אך הזהירות גוברת.
AI מתקדמת ביישומים כמו הומור וייעוץ אך מגלה מגבלות מהותיות: 70% צוחקים מבדיחות ChatGPT יותר מבני אדם, 43% מבני דור ה-Gen-Z מתחרטים על ייעוץ פיננסי מ-AI, ו-APA מזהירה מסכנות טיפוליות. מאמר סוקר גם את מאמצי הרגולציה באוהיו והבית הלבן.
Black Duck מרחיבה את פלטפורמת ה-SCA עם AI Model Risk Insights: סריקת מודלי AI (כולל נסתרים ומטושטשים), זיהוי רישוי ומטא-דאטה, תמיכה ברגולציית AI ואינטגרציה ל-DevSecOps.
Rapid7 משיקה שדרוגי AI לפלטפורמת האבטחה שלה תוך חששות שוק עקב ירידה של 53.6% במהלך השנה. המניה נסחרת בהנחה ליעד אנליסטים אך עם מכפיל P/E גבוה מהתעשייה. השילוב בין טכנולוגיה מתקדמת לאתגרים פיננסיים מציב סימני שאלה על יכולת החברה לממש את הפוטנציאל.
גל הבנייה של מרכזי נתונים ל-GenAI צפוי להשקיע 6.7 טריליון דולר עד 2030, עם סיכונים אקלימיים וכלכליים משמעותיים. צריכת האנרגיה העצומה עלולה לעכב את המעבר לאנרגיה נקייה ולהשאיר נכסים תקועים. קרנות פנסיה בעלות 6.17 טריליון דולר חייבות למלא תפקיד מפתח בניהול סיכונים אלו דרך מעורבות אקטיבית בתעשייה וקידום פתרונות אנרגיה בת-קיימא.
חוקר MIT ניל תומפסון חשף בפסגת NDTV World Summit כי טעויות AI נובעות ממגבלות ארכיטקטוניות, והתריע מפני סיכונים עתידיים כמו מערכות בלתי צפויות ופרצות אבטחה. למרות האזהרות, הוא ציין את הפוטנציאל החיובי בתחומי אקלים ורפואה, תוך הדגשת הצורך במנגנוני בקרה קפדניים.
בינה מלאכותית משנה את ענף הביטוח אך יצרה פערים בכיסוי סיכונים. אנדריאה וורד מ-CRC מציינת אתגרים כמו חוסר בהירות משפטית ועומק בלתי צפוי של אחריות. בעוד מתקני ביטוח ייעודיים צומחים, היא מדגישה ש-AI צריך להישאר כלי עזר ולא להחליף שיקול דעת אנושי. הדיונים יימשכו בוועידת הנשים בביטוח באוקטובר.
מחקר עדכני חושף כי יכולות ה-AI גדלות באופן מעריכי, עם יכולת לפרוץ פילטרי בטיחות, לשקר, ולפתח פתוגנים ביולוגיים. מומחים חלוקים האם מדובר באיום קיומי או בהזדמנות כלכלית, אך הראיות לשניהם מצטברות. תחזיות מעריכות כי עד 2028 AI יבצע משימות השקולות לשבוע עבודה אנושי.
פרק בפודקאסט של NPR מזהיר מפני הסיכון שבוטי מסחר מבוססי בינה מלאכותית ייצרו קרטל וירטואלי למניפולציית שווקים. הדבר עלול להיערך בקצב ובקנה מידה חסרי תקדים, כשהמערכת המשפטית לא מצליחה להדביק את הקצב. נדרשים כללי פיקוח חדשים המותאמים לעידן ה-AI.
מדריך AWS ליישום AI בארגונים מתמקד בניהול סיכונים ייחודיים כמו הטיות, פרטיות ושקיפות באמצעות מסגרת ERMF. חלק 1 מציג אתגרים כמו פלטים לא-דטרמיניסטיים ואיומי Deepfake, וחלק 2 מספק כלים מעשיים להתאמת ניהול סיכונים כולל Amazon Bedrock Guardrails. כולל דוגמאות מ-TP ICAP ו-Rocket Mortgage ליישום מבוקר תוך עמידה ב-GDPR.
חוקר ה-AI אליעזר יודקובסקי מזהיר שהסכנה האמיתית אינה ב"צ'אטבוטים מעורים" אלא במערכות על-אינטליגנטיות ואדישות שישמידו את האנושות כתופעת לוואי או במתכוון. לטענתו, אין לנו הטכנולוגיה להבטיח יישור קו עם ערכים אנושיים. מומחים כמו אילון מאסק מעריכים סיכויי הכחדה בין 20% ל-99.9%, ויש ההולכים לבבונים תת-קרקעיים.
:max_bytes(150000):strip_icc():format(webp)/GettyImages-2220025422-5820834e308f45eb8f6f852c6062663f.jpg)
סקר חדש מגלה ש-19% מהאמריקאים איבדו מעל 100$ עקב ייעוץ פיננסי מ-AI כמו ChatGPT, עם סיכון גבוה יותר בקרב דור ה-Z (27%). מומחים מזהירים מפני עצות לא מעודכנות, הזיות AI וחוסר התאמה אישית. למרות החיסכון הכספי, השימוש בבינה מלאכותית לתכנון פיננסי עלול לעלות יותר מעלות ייעוץ אנושי מקצועי.
סוכני AI אוטונומיים מחוללים מהפכה במרכזי אבטחת סייבר עם הבטחות לאוטומציה מוחלטת. למרות שיפורים של 77% בזיהוי איומים ו-53% צמצום בכרטיסי תמיכה, סוכנים אלו סובלים מטעויות בקצב של 60%, סיכוני ממשל ופערי אמון בין הנהלה לצוותים. מומחים מזהירים ששגיאות מתפשטות ללא יכולת לפענח את מקורן, וקוראים למסגרות בקרה חדשות לפני שיהיה מאוחר.
סוכני קניות מבוססי AI (Agentic AI) מגדילים את סיכוני ההונאה: כלי LLM כמו ChatGPT מייצרים תעבורה מסוכנת פי 2, המתאפיינת בזיוף זהויות, ניצול פרצות Zero-Click ונזקים של 12.5 מיליארד דולר. הפתרון - מערכות ML בזמן אמת, ניטור התנהגות סוכנים ופרוטוקולי אימות מתקדמים.