ה-AI טועה בביטחון בגלל נתונים גרועים

ה-AI כבר מזמן לא טרנד, הוא חלק מחיי העבודה שלנו – מניתוח נתונים ועד לקבלת החלטות קריטיות. אבל האם אנחנו באמת מפיקים ממנו את המקסימום? לפי דעה רווחת בעולם הטכנולוגיה, רבים מהארגונים פשוט מטמיעים כלי AI בלי לטפל בבעיות היסוד. התוצאה: מערכות חכמות שטועות בביטחון, תשובות שנשמעות מדויקות אבל מבוססות על נתונים חלקיים או שגויים, וסיכונים עסקיים גדולים.

טלאור ינאי, סמנכ"לית הכספים בדן אנד ברדסטריט, מסבירה את הסכנה: "הסיכון במערכות AI הוא שהן עלולות לטעות באופן משכנע. מודלי שפה יודעים לנסח תשובות ברורות, בטוחות ורהוטות גם כאשר המידע שעליו הן מבוססות חלקי, מיושן או פשוט שגוי." לדבריה, כאשר תשובה כזו מתקבלת כהמלצה פיננסית – כמו מתן אשראי או התקשרות עם ספק – הנזק יכול להיות משמעותי. הפתרון? להעביר את הפוקוס מהמודל אל הדאטה. "רוב הארגונים יעבדו עם אותן טכנולוגיות. הפער ביניהם לא ייווצר משום שלאחד יש מודל מתקדם יותר, אלא משום שלאחד יש מידע עסקי איכותי יותר," היא מדגישה. המידע חייב לזהות ישויות עסקיות, למפות קשרי בעלות, להצביע על סיכונים וציות, ולהציג את ההקשר המלא – רק כך ה-AI יוכל להמליץ על פעולה שניתן לעמוד מאחוריה.

אבל נתונים זה רק חלק מהמשוואה. יניב שכטר, מנכ"ל ומייסד Paltiri, חברת תשתיות מחשוב ישראלית שלקחה חלק בתוכנית MamramLIFT של BDO ועמותת בוגרי ממרם, מפנה את תשומת הלב לאתגר התשתיות. "אחד האתגרים שפחות מדברים עליהם באימוץ AI בארגונים הוא ניהול משאבי מחשוב," הוא אומר. מערכות AI דורשות כוח עיבוד משתנה בהתאם למורכבות המשימה, וארגונים רבים מתכננים תשתיות לפי תרחישי קיצון – מה שמוביל להקצאת יתר ועליות גבוהות. הפתרון שלו: גישה דינמית להקצאת משאבים. "במקום להקצות משאב קבוע לפי שרת, נכון להתייחס אליו בצורה דינמית, כך שהוא יוקצה לפי הצורך בזמן אמת וישתחרר כשהמשימה מסתיימת." זה מאפשר ניצול יעיל יותר של תשתיות קיימות, הפחתת עלויות והרחבת השימוש ב-AI. "היכולת של ארגונים להפיק ערך אמיתי מבינה מלאכותית לא תיקבע רק לפי איכות המודלים, אלא גם לפי היכולת להפעיל אותם בצורה יעילה, גמישה וחסכונית," הוא מוסיף.

אבל גם עם נתונים איכותיים ותשתיות חכמות, בלי מדיניות ברורה – ה-AI עלול ליצור יותר נזק מתועלת. עו"ד ורד זליכה, שותפה וראשת תחום סייבר ו-AI במשרד ליפא ושות', מציינת שארגונים רבים מאמצים AI First, Governance Later – כלומר, ממהרים להשתמש בכלים לפני שהגדירו אחריות, תהליכי אישור ובקרות. "גישה כזו עלולה ליצור פער בין קצב האימוץ הטכנולוגי לבין היכולת להבין ולנהל את הסיכונים שנוצרים בפועל," היא מזהה. הפערים כוללים סיכוני פרטיות, אבטחת מידע וציות לרגולציה; שימוש לא מבוקר בכלים לא מאושרים ("Shadow AI"); קניין רוחני; הטיות; הזיות; ואתגרי שקיפות.

זליכה ממליצה על אסטרטגיה מדורגת: לבחור תחילה מספר מקרי שימוש בעלי ערך עסקי ברור, לבדוק את התאמתם לעומק – למשל, בסביבה טכנולוגית מאובטחת עם הערכה מבוססת לגבי דיוק ומהימנות – ורק אז לבחון שילוב כלים נוספים. בנוסף, מדיניות ארגונית אפקטיבית צריכה להתחבר לתהליכי עבודה קיימים, לערב צוותים חוצי-ארגון – מהביזנס, הטכנולוגיה, אבטחת מידע, פרטיות וייעוץ משפטי – ולהבטיח שההנהלה והדירקטוריון מעורבים. "מדיניות ארגונית אפקטיבית לא יכולה להישאר מסמך כללי," היא מדגישה. "היא צריכה לכלול מיפוי מקרי שימוש, מנגנון אישור ובחינה של כלים, הגדרת מדיניות ברורה לכל מקרה, ודגש על הכשרה סדורה של העובדים."

אז מה בעצם קרה כאן? שלושה מומחים מישראל מצביעים על אותו הדבר: כדי שה-AI יביא ערך עסקי אמיתי, חייבים להשקיע בבסיס – נתונים, תשתיות ומדיניות. בלי זה, אנחנו פשוט משחקים עם צעצועים יקרים שטועים בביטחון. בסופו של דבר, ה-AI לא יעשה את העבודה לבד – הוא צריך את הנתונים הנכונים, התשתיות החכמות והכללים הברורים.