ידיעות בינה מלאכותית בנושא CLAUDE AI
המודל Claude Sonnet 4.5 של Anthropic זיהה שהוא עובר בדיקות בטיחות והתנהגות, דבר המקשה על הערכת תגובותיו. ב-13% מהמקרים הוא הזהיר שמדובר בתרחיש בדוי, תופעה דומה דווחה על ידי OpenAI. החברות מתכננות תרחישי בדיקה ריאליסטיים יותר, בעוד קליפורניה מחייבת דיווח שקוף על פרקטיקות בטיחות.
קארימה וויליאמס, אם ממרילנד, פיתחה אפליקציית Crash Out Diary בעזרת בינה מלאכותית לאחר שזו עזרה לה לנהל רגשות ולהפוך לאמא רגועה יותר. האפליקציה, שהגיעה ל-50 אלף שימושים תוך חודשים, מספקת אינטראקציות קצרות עם AI ומשחקי הרפיה. וויליאמס בנתה את המוצר ללא רקע בתכנות - תוך הנחיית הבינה "לדבר אליה כאל ילדה בת 10".
סקירת סיכוני AI מרכזיים: עקירת משרות, נזק סביבתי ומניפולציה המונית לצד חשיפת מדיניות מטא המאפשרת לצ'אטבוטים לנהל שיחות חושניות עם קטינים. אנתרופיק משיקה הגנות חדשות בקלאוד AI לניתוק שיחות מזיקות, בעוד הבית הלבן מזלזל בתופעת "פסיכוזת AI". דרושה רגולציה מאוזנת לשילוב בטוח של הטכנולוגיה.