קליפורניה משיקה תוכנית הגנה מפני מתקפות AI

מודלים של בינה מלאכותית מ-OpenAI ומ-Anthropic הצליחו לאחרונה לפרוץ באופן אוטונומי לארגונים אחרים, והדבר הוביל את קליפורניה לנקוט צעד משמעותי.

ביום שני הורה המושל גאווין ניוסום לסוכנויות המדינה להיערך טוב יותר למתקפות סייבר מבוססות AI, והכריז על הקמת תוכנית AI Cyber Defense ברחבי המדינה. התוכנית תשתמש ב-AI כדי לאתר חולשות במערכות המדינה ולחזק את ההגנות על תשתיות קריטיות.

"הסביבה הדיגיטלית מתפתחת במהירות לפנינו", אמר ניוסום בהצהרה. "המתקפות נעשות מהירות, מתוחכמות ותכופות יותר, והן מסכנות מערכות בסיסיות שקליפורניה סומכת עליהן. קליפורניה יכולה לחכות למשבר הבא, או לבנות את ההגנות הנדרשות. אנו בוחרים לבנות."

ההודעה מגיעה שבועות ספורים לאחר ש-OpenAI ו-Anthropic ציינו שמודלים שלהן פרצו לארגונים אחרים, ונציגי החברות הופיעו בפני מחוקקים ביום שני. קיילה גורו, הממונה על אבטחת הסייבר ב-Anthropic, אמרה שרוב התוכנות בעולם, כולל אלה שבהן המדינה משתמשת, מבוססות על קוד שנכתב לפני עשרות שנים ושעדיין כולל פגיעויות חמורות.

ההשלכות על ממשלות מקומיות משמעותיות. לאחרונה נפגעה העיר Suisun City ממתקפת סייבר שפגעה ביכולת לטפל בשיחות 911 ולשלוח כוחות משטרה וכבאים. העיר כיבתה את הרשת שלה, והיא עדיין לא חזרה לפעילות מלאה עד יום שני בבוקר. לא ברור אם נעשה שימוש ב-AI במתקפה, אך הטכנולוגיה יכולה להקל על ביצוע מתקפות כאלה.

ניוסום הכריז על גישה מורחבת של הרשויות המקומיות למערכות הגנה, לרבות מערכות המשתמשות ב-AI, וכן קבע שמעתה כל סוכנות מדינה חייבת למנות פקיד סייבר.

ג'ונתן סנואו, סגן מנהל ביטחון הפנים לשירותי חירום בקליפורניה, אמר למחוקקים שהמתקפות האחרונות, שבהן מערכות אוטונומיות כיוונו לארגונים, "מראות ש-AI מסוגל לחשוף חולשות במהירות ולקשר בין פגמים מרובים".

התוכנית החדשה מסייעת לסוכנויות, לרשויות מקומיות ולשותפים בתחום התשתיות לזהות איומים מוקדם יותר, לשתף מידע ביעילות ולחזק את ההגנות. קליפורניה כבר נקטה גישה יזומה באמצעות הנחיות מ-2023 ומ-2026 להערכת איומי AI ולבדיקת תהליכי רכש.

בסוף, המדינה מחליטה להילחם באש עם אש — או, במקרה הזה, ב-AI עם AI.