חטיפת LLM עולה מיליארד דולר בשנה

חשבון חודשי של כמעט 400 אלף דולר על שימוש ב-AI, בלי שבכלל השתמשתם בו? זה מה שקרה ללקוח אחד, וזו רק דוגמה לתופעה שמתפשטת בעולם הסייבר: חטיפת LLM. התופעה הזו, שנקראת LLM Jacking, הפכה לאחרונה לאחד האיומים החמים בתחום, עם נזקים מצטברים שמגיעים למיליארד דולר בשנה.

אז מה בעצם קרה כאן?

כלל ברזל כלכלי קובע: ברגע שמחירו של מוצר מאמיר, יתפתחו סביבו שווקים לגיטימיים ולא לגיטימיים כאחד. השימוש במודלי AI בארגונים גדל משמעותית, וכך גם העלויות. מהצד הלגיטימי, חברות עוברות למודלים סיניים זולים. מהצד השני, האקרים מתלבשים על גישה ארגונית למודלי שפה גדולים (LLMs) וחוטפים את השימוש בהם לטובת מכירת הגישה.

חטיפת LLM אינה תופעה חדשה – היא זוהתה כבר לפני כשנתיים – אבל בחודשים האחרונים, על רקע התרחבות השימוש ב-AI, היקפה גדל משמעותית. "חטיפת LLM זו התופעה הכי חמה כיום בסייבר של AI", אומר דימה טאטור, סגן נשיא להגנת סייבר ב-Commit. "ברגע שהתוקפים מקבלים גישה ישירה לארנק ה-AI של הארגון, ועד שהארגון מבין שמשהו קורה, אפשר להגיע לנזקים של מאות אלפי דולרים בתוך שבוע עד עשרה ימים".

איך זה עובד?

ארגונים משתמשים בסוכני AI ובממשקים שפועלים ישירות מול ה-API של המודל – ממשק חיבור ישיר למודל ה-AI. הסוכן מזדהה באמצעות מפתח API, קוד ייחודי שמתפקד כסיסמת הזדהות. "הבעיה מתחילה בכך שאם ארגון לא מגדיר זאת במפורש, מפתח ה-API הזה פועל כחשבון פתוח לחלוטין", מסביר טאטור.

מפתחים בונים אפליקציות וסוכני AI, אבל ברוב הארגונים אין מספיק מודעות. מפתחות API נשארים חשופים בקוד האפליקציה, או שמפתחים מעלים אותם בטעות למאגרי קוד ציבוריים כמו GitHub. התוקף מזהה את הפרצה, חודר לאפליקציה, מושך את המפתח, ומשם הדרך למכירה בדארקנט קצרה.

שוק שחור משומן

התוקפים לרוב לא משתמשים במפתחות הגנובים בעצמם, אלא מתפקדים כמתווכים. "הם מקימים מעין בורסות טוקנים בדארקנט", מתאר טאטור. "הם מציגים נקודת קצה שהמשתמש פונה אליה, ומאחוריה יש להם מאות מפתחות גנובים. הם מציעים: 'במקום לשלם 5 דולרים למיליון טוקנים ישירות לספק המודל, תשלם רק דולר אחד'. זה מסחר שמאחורי הקלעים מבוסס על מפתחות גנובים".

יש כמה סוגי רוכשים: שחקנים שמבקשים להשתמש ב-AI לפעילות לא חוקית, כמו תכנון מתקפת סייבר, ירכשו במודע מפתח גנוב כדי לטשטש את זהותם. אבל יש גם חברות לגיטימיות שקונות טוקנים בהנחה של עד 40% מספקים שמחברים בין שירותים, וכך נטמעים בהן מפתחות גנובים. "החברה פועלת בעסקה לגיטימית לחלוטין, מבלי לדעת שבשכבות שמאחורי הקלעים נמצאים מפתחות גנובים", אומר טאטור.

ההשפעה הכספית והסיכונים

ההפסדים הישירים יכולים להיות דרמטיים. "ההפסדים עומדים בממוצע על 50 עד 100 אלף דולר ליום לכל חברה שנפגעה", מציין טאטור. "בחקירות שהייתי מעורב בהן, ראינו חשבונות שהגיעו בתוך עשרה ימים להפסדים של חצי מיליון דולר".

אבל הנזק הכספי הוא רק חלק מהסיפור. אם ארגון מגדיר תקרת צריכה חודשית, נניח 300 אלף דולר, והתוקפים מעמיסים על החשבון, הצריכה מגיעה למקסימום. "ברגע שהתקציב ננעל, המודל נחסם וכל האפליקציה הארגונית מושבתת", מסביר טאטור. השבתה יכולה לקרות גם אם חברה מחליפה מיד את המפתח של המודל בלי לעדכן את כל המערכות שמסביב – הכול קורס.

סכנה נוספת היא חשיפת מידע ארגוני. "ברגע שיש לתוקף את מפתח ה-API, יש לו גישה ישירה לכל ההיסטוריה ולכל חלון הזיכרון של אותו ארגון", אומר טאטור. "אפליקציות שמשרתות לקוחות יכולות להעביר מידע רגיש, כמו מידע רפואי. התוקף יכול לשאוב את כל המידע שעבר שם".

איך מתגוננים?

טאטור ממליץ על כמה צעדים מניעתיים: להשתמש במפתחות וירטואליים שמאפשרים הפרדה בין הסוכן למודל, לאחסן מפתחות בכספות מאובטחות במקום בקוד, ולהגדיר תקרות צריכה. במקרה של זיהוי מתקפה, יש לבצע שלושה מהלכים: לחסום את המפתח הפרוץ ולהגביל את הצריכה, לבצע החלפה מאובטחת של המפתח (לא לשתול אותו שוב בקוד), ולתחקר את נתיב החדירה.

עם זאת, ארגונים נתקלים בקושי לקבל מענה מחברות כמו OpenAI ו-Anthropic. "החברות שמפתחות מודלים לא ממש נותנות מידע, ואין נראות מספקת", מציין טאטור. "היכולת לנהל מולן את האירוע יחסית מוגבלת".

בסופו של דבר, בעולם שבו AI הפך למשאב יקר, גם הגנבים מתעדכנים.