OpenAI: מערכת GPT-5 תטפל בצ'אטים רגישים ב-ChatGPT
OpenAPI תנתב צ'אטים 'רגישים' ב-ChatGPT ל-GPT-5 לטיפול בזמן אמת, במטרה להתמודד עם איומים עצמיים, הזיות ו'פסיכוזת AI'. למרות יתרונותיה של GPT-5 בזיהוי דפוסים מסוכנים, השיטה מעוררת חששות לגבי פלישתיות ודיוק בזיהוי מצוקה אמיתית מול ביטויים אירוניים.
OpenAI מציגה גישת 'צוות בין בינות' לטיפול בשיחות רגישות
חברת OpenAI הודיעה על תכנון מנגנון חדש שינתב שיחות 'רגישות' מ-ChatGPT ל-GPT-5 - הדגם המתקדם יותר שלה. השיטה, המכונה AI-to-AI tag team, תזהה שיחות המעידות על סיכון עצמי, הזיות או תופעות המזוהות עם 'פסיכוזת AI' ותעביר אותן לטיפול בזמן אמת.
מה מוגדר כשיחה רגישה?
- הבעת כוונות לפגיעה עצמית או באחרים
- שיחות המערבות אמונות או מחשבות מעורפלות
- תסמינים של אובדן הקשר עם המציאות
- אינטראקציות ברצף שעלולות להחמיר מצב נפשי
היתרונות והאתגרים
לפי מחקר עדכני, ל-GPT-5 יש יכולות ניתוח והסקה טובות יותר מדגמי ChatGPT הבסיסיים, מה שמאפשר:
- זיהוי דקויות בהתנהגות משתמשים
- תגובות קצרות יותר למצבי סיכון
- התערבות מדויקת יותר במשברים נפשיים
אך המערכת לא חפה מאתגרים:
- אזעקות שווא: בדיחות או ביטויים אירוניים עלולים להתפרש בטעות כמצוקה
- פלישה לפרטיות: חשש מפני ניטור יתר של שיחות אישיות
- מורכבות טכנית בניתוב בזמן אמת בין מודלים
כפי שציין בכיר ב-Forbes: "זו התקדמות מבטיחה, אך נדרש איזון עדין בין בטיחות לשימושיות". המהלך מצטרף לסערה משפטית גוברת סביב אחריות מפתחי AI לנזקים נפשיים פוטנציאליים.