הפנים הכפולות של ה-AI: חדשנות לצד הונאות ופשיעת סייבר מתעצמת

דיפ פייק, האקרים ומדינות אויב: הסכנות החדשות של עידן הבינה המלאכותית

בעוד בינה מלאכותית ממשיכה לחדור לכל תחומי החיים, מגיעים עמה גם סיכונים חסרי תקדים. שלושה דיווחים עדכניים חושפים כיצד טכנולוגיית AI משמשת להונאות מתוחכמות, פשיעת סייבר מאורגנת ופרצות אבטחה בעולם העסקי.

AI בזירת הפשיעה: מהונאות הרזיה ועד הלבנת הון

• הונאות דיפ פייק בהשתתפות מפורסמים: השף מושיק רוט הפך לקורבן של קמפיין הונאת הרזיה שכלל יצירת דמות מזויפת באמצעות AI. "אין לי שום קשר לזה", הצהיר רוט בראיון ל-ynet לאחר שגולשים רכשו כדורי הרזיה פיקטיביים.
• הונאות פיננסיות מתוחכמות: הרשות לאיסור הלבנת הון מתריעה על עלייה דרמטית בשימוש ב-AI להונאות. דו"ח חדש מציין כי עד 2027 צפויים נזקים של 40 מיליארד דולר בארה"ב בלבד. מקרה בולט: מנהל בנק העביר 35 מיליון דולר לאחר שזוהתה שיחת דיפ פייק כביכול ממנכ"ל החברה.
• "דגלים אדומים" לזיהוי הונאות: הרשות מפרטת סימנים מחשידים כמו:
  • סירוב לשימוש באימות רב-גורמי
  • חוסר התאמה בין מסמכי זיהוי לנתוני פרופיל
  • שיחות "דחופות" באיכות קול חריגה

ממדינות אויב ועולם התעסוקה: AI ככלי ריגול תעשייתי

• האקרים צפון קוריאנים וסינים: קבוצת Kimusky הצפון-קוריאנית ניצלה את ChatGPT ליצירת תעודות מזויפות של צבא דרום קוריאה, לפי דיווח Genians. בסין - האקרים השתמשו בכלי Claude לפריצה למערכות טלקום בווייטנאם.
• הונאות תעסוקה מתוחכמות: Anthropic דיווחה כי האקרים צפון קוריאנים השתמשו ב-Claude כדי:
  • ליצור קורות חיים מזויפים
  • לעבור מבחני קוד
  • להשתלב בעבודה בחברות Fortune 500

ה-AI הסמוי: 89% מהפעילות הארגונית חומקת מבקרת אבטחה

לפי נתוני Lanai, רוב הפעילות הארגונית עם AI נעשית בלי ידיעת מחלקות הטכנולוגיה:

• דוגמאות מסוכנות:
  • עובדי מערכת בריאות סיכנו מידע רפואי מוגן (PHI) בשימוש ב-AI לסכומי מטופלים
  • צוותים פיננסיים העבירו מידע רגיש לחשבונות ChatGPT אישיים
  • שימוש בתכונות AI מובנות ב-Salesforce Einstein שהוביל להפרת תקנות ביטוח

פתרון חדשני: חברת Lanai משיקה סוכן ניטור מבוסס edge הבודק פעילות AI ישירות במכשירים. המערכת דיווחה על ירידה של עד 80% באירועי אבטחה תוך 60 יום.

"האתגר האמיתי הוא שבפלטפורמות מאושרות כמו Salesforce או Microsoft Office מסתתרים שימושים מסוכנים שלא נראים במערכות המסורתיות" — Lexi Reese, CEO of Lanai

עתיד מלא אתגרים

בעוד הבינה המלאכותית ממשיכה לחולל מהפכות בכל תחום, הדיווחים העדכניים מישראל ומהעולם מצביעים על צורך דחוף בפתרונות אבטחה מותאמים. בין אם מדובר בהונאות רחוב, ריגול תעשייתי או פרצות בארגונים - העידן החדש מציב אתגרים טכנולוגיים ומשפטיים חסרי תקדים.