סוכני AI נכנסים עם סיסמאות אנושיות: מי משלם את המחיר?

נראה לכם נוח שסוכן AI נכנס לחשבון ה-Stripe של החברה שלכם עם הסיסמה שלכם, בודק עסקאות ומכין דוח? בתוך דקות הוא פועל במערכת רגישה עם גישה שאתם אישרתם. אבל מה קורה כשהסוכן הזה מחליט לפעול לבד, ואין לכם מושג מה הוא עשה? התשובה עלולה להיות כואבת – במיוחד לארגונים שלא שמו לב.

יותר כלים, יותר סיסמאות, יותר סיכונים

חברות היום לא מסתפקות בפלטפורמת AI אחת. לפי נתוני Okta, שעקבו אחרי יותר מ-20,000 ארגונים, עסקים גדולים מריצים בממוצע עשרות כלי AI שונים – מסייעות קוד ועד לכלי שיווק וניתוח. כל פלטפורמה חדשה מגיעה עם סט הרשאות וסיסמאות משל עצמה.

מחקר Okta Enterprise AI Index הראה שחברות AI-נייטיב כמו Anthropic, OpenAI ו-Cursor הגדילו את בסיס הלקוחות הארגוני ביותר מפי ארבעה. חברות מבוססות כמו Microsoft, Google Workspace ו-Figma צמחו לאט יותר, אבל הוסיפו תכונות AI. התוצאה? ערבוביה של כלים מאושרים ולא מאושרים, שבה סיסמאות מתפזרות כמו פירורים.

סוכנים עם זהות אנושית

הטרנד האחרון: חברות כמו 1Password מאפשרות לסוכני AI, כמו Claude, להתחבר לחשבונות עם סיסמאות אנושיות. אתם מאשרים, והסוכן נכנס בשמכם. זה מקל על העבודה, אבל יוצר בעיה קריטית: כשסוכן AI מתחבר עם הזהות שלכם, שורת הביקורת (audit trail) נמחקת.

כפי שפיי ליו, חוקרת בכירה ב-Okta, הסבירה: "כשסוכן AI יורש התחברות אנושית, אתם מאבדים לחלוטין את היכולת להבחין אם פעולה קריטית בוצעה על ידי עובד או על ידי אלגוריתם באופן אוטונומי." זה אומר שבמקרה של טעות או תקלה, אי אפשר לדעת מי אחראי – העובד או המכונה.

Shadow AI: הטרנד שגדל בצללים

אבל הבעיה חמורה יותר. הרבה שימוש ב-AI קורה מחוץ לכלים המאושרים. עובדים מקימים מופעים אישיים בעננים פרטיים או משתמשים בחשבונות אישיים לגישת מודלים לא מאושרים. לפי נתון מ-Verizon, השימוש ב-Shadow AI שילש את עצמו בשנה האחרונה מ-15% ל-45%. עובדים מפחדים להישאר מאחור ומאמצים גישת BYOAI (Bring Your Own AI).

המשמעות: אם עובד מעתיק קוד מקור או נתוני לקוחות לתוך LLM לא מאושר בחשבון אישי, לצוות האבטחה אין שום ראות או יכולת לבטל את הגישה. זה סיכון מוחשי, במיוחד לאור העובדה שעלות ממוצעת של דליפת נתונים גלובלית ב-2025 הייתה 4.44 מיליון דולר, לפי IBM. ו-97% מהארגונים שחוו תקרית סייבר קשורה ל-AI לא היו להם בקרות גישה מתאימות.

תקיפה בעולם האמיתי: מקרה Hugging Face

האיום הוא לא תיאורטי. לאחרונה, תקיפת סייבר מהירה על Hugging Face בוצעה כולה על ידי סוכני AI זדוניים. הם ביצעו כ-17,000 פעולות, מה שמתאים ל"תרחיש התוקף האג'נטי שהתעשייה חזתה." OpenAI, שהדגמים שלה שימשו בחלק מהמבצע, הודיעה שתשתף פעולה עם Hugging Face לטיפול בגורם השורש.

מה עושים? תקנים וזהויות לא אנושיות

התעשייה מתחילה להגיב. גופים כמו ISC2 עובדים על תקן חדש, AI Security Certification, שישוחרר ב-2027 כמדד תעשייתי. חברות כמו Okta קוראות לאמץ גישה של "זהות בד" – שכבת זהות מאוחדת שמנהלת גישה לכל הפלטפורמות.

העקרון: גישה מינימלית (least-privilege), מחזור חיים מותאם לשימוש אמיתי, וזהויות נפרדות לסוכנים שאינם אנושיים. כפי שליו הסבירה, צוותי אבטחה צריכים להפסיק לראות את זה כ"הוספת ספק תוכנה חדש" ולהתחיל להתייחס לזה כ"הרחבה של מרקם הזהות" שלהם.

אז בפעם הבאה שאתם מאשרים לסוכן AI גישה לחשבון רגיש, תזכרו – לפעמים היעילות באה על חשבון האבטחה, ובסופו של דבר, מי שמשלם את המחיר הוא העסק שלכם.