חולשת אבטחה קריטית ב-ChatGPT אותרה על ידי Zeniti
מייקל ברגורי, מייסד Zeniti, חשף בכנס סייבר חולשת אבטחה ב-ChatGPT המאפשרת התחזות למודל, שאיבת מידע רגיש ושליחת תוכנות זדוניות. Zeniti מגנה על מודלי AI מפני התקפות.
בכנס סייבר גדול שנערך בחודש שעבר, מייקל ברגורי, מייסד Zeniti, הדגים חולשת אבטחה קריטית ב-ChatGPT של OpenAI. החולשה מאפשרת התחזות למודל, שאיבת מידע רגיש או שליחת תוכנות זדוניות למשתמשים.
ברגורי גילה את עולם הסייבר כנער במשחקי Counter-Strike, שירת ביחידת 8200, למד מדעי המחשב ומתמטיקה, ועבד שש שנים במיקרוסופט. הוא הקים את Zeniti, המתמחה בהגנה מפני התקפות על מודלי AI. החברה גייסה 60 מיליון דולר והשיגה הכנסות דו-ספרתיות במיליוני דולרים.
הדגמה זו מדגישה את הצורך הדחוף בשיפור אבטחת מודלי AI.