Anthropic מזהירה: ה-AI עלול להפוך ל״מדינת גאונים״

המרוץ לאימוץ בינה מלאכותית בארה״ב תופס תאוצה, אך לאחרונה מתגלה צד אפל: מודלים של AI שמבצעים פריצות סייבר אוטונומיות. המקרה האחרון, שבו מודלים של Anthropic ו-OpenAI ״שברו״ בכוונה מערכות של חברות אחרות במהלך בדיקות אבטחה, לא רק הדליק נורה אדומה — הוא שינה את המשחק הפוליטי.

אז מה בעצם קרה פה?

בבדיקות אבטחה פנימיות, מודלים של OpenAI עזרו ל״סוכן״ AI לפגוע בתשתיות הייצור של Hugging Face. בדיקה נפרדת של Anthropic העלתה שמודלים שלה הצליחו לפרוץ לשלושה ארגונים שונים. אירועים אלו הוכיחו שתקלות במעבדה עלולות להפוך לתקריות אמיתיות בעולם האמיתי. ההתפתחויות האלה הפכו את הוויכוח על רגולציה מהתיאורטי למעשי ומיידי.

הקרב על הרגולציה: מי רוצה מה

שתי חברות ה-AI המובילות, Anthropic ו-OpenAI, מובילות קו ברור: אי אפשר לחכות יותר. עם זאת, הגישות שלהן שונות בתכלית.

OpenAI קוראת לסטנדרט בטיחות לאומי אחיד, עם ביקורות עצמאיות ודיווח על תקריות. היא מזהירה ממצב של ״כאוס מתמשך״ שיפגע בפיתוח. כריס להאן, המנהל הגלובלי של החברה, טוען שארצות הברית ״זורעת כאוס עצמי״ כשהיא צריכה ״קוהרנטיות אסטרטגית״.

Anthropic הולכת צעד אחד קדימה. החברה דורשת בדיקות חובה, הערכה עצמאית וסמכות ממשלתית לחסום פריסות מסוכנות — עם עונשים כלכליים. מנכ״ל החברה, דריו אמדֵי, מגדיר את הדחיפות בצורה מפחידה: ״בשנתיים-שלוש שיידרשו לקונגרס לפעול, AI יכול להפוך מ׳צעצוע משעשע׳ ל׳מדינת גאונים שלמה׳״.

מנגד, Microsoft, Meta ו-Nvidia מתמקדות בזווית שונה: הגנה על מודלים ״פתוחים״ (open weights) כדרך לחזק תחרות, חדשנות וביטחון סייבר. ג׳נסן הואנג, מנכ״ל Nvidia, טוען ש״מודלים פתוחים מחזקים בטיחות וסייבר, מאיצים חדשנות וריבונות״. מטא, מצידה, מנסה למסגר את הוויכוח כשאלה ערכית: האם ה-AI יהיה מרוכז בידי מוסדות מעטים, או ״כלי שמעצים את כולם״?

מדינות בארה״ב לא מחכות לוושינגטון

בזמן שוושינגטון מנסה למצוא נתיבים, המדינות כבר פועלות קדימה. קליפורניה, ניו יורק, אילינוי, קולורדו וטקסס כבר חוקקו חוקים משלהן, הכוללים דרישות שקיפות, תוכניות בטיחות, זכויות ביקורת ודיווח על תקריות. התוצאה המצטברת: מנגנון רגולטורי לאומי שמתגבש מלמטה, מהלך שמזכיר את ימי הוויסות המוקדמים של האינטרנט.

הקונגרס האמריקאי מתחיל להתעורר. מספר הצעות חוק הוגשו לאחרונה, ביניהן חוק ה-FRONTIER Act, שדורש הערכות סיכון ובדיקות עצמאיות למודלים חזקים. סנטור מארק וורנר הציג ״מסגרת לעתיד ה-AI האמריקני״, שכוללת בדיקות חובה לפני פריסת מודלים ושקיפות במרכזי נתונים.

הלקח מהמדיה החברתית — ואיך לא לחזור עליו

הסיפור הזה הוא לא רק טכנולוגיה. הוא סיפור על אמון. דור שלם של אנשי טק גדל על ״לנוע מהר ולשבור דברים״, גישה שעזרה לבנות ענקיות כמו פייסבוק, אבל גם הובילה למשברים חברתיים שנמשכים עד היום. פרשת Cambridge Analytica, משבר הבריאות הנפשית של בני נוער והפצת מידע כוזב — כולם אירעו לפני שהרגולטורים התעוררו.

הפעם, התחושה היא שכולם מבינים שאי אפשר לחזור על הטעות הזו. אפילו דמיס חאסאיס, ממייסדי גוגל DeepMind, מציע שהממשלה האמריקנית תקים גוף שיבצע בדיקות בטיחות למודלים לפני שהם יוצאים לשוק.

ומה עם ישראל?

עבור מי שעובד בסצנת ההיי-טק הישראלית, הסיפור הזה רלוונטי במיוחד. ישראל היא מעצמת סייבר ו-AI, וההחלטות שיתקבלו בוושינגטון ישפיעו ישירות על חברות ישראליות שמפתחות מודלים, מוכרות שירותי בדיקת AI או מספקות פתרונות אבטחת סייבר לתחום. אם המודל האמריקאי יהפוך לתקן דה-פקטו, חברות ישראליות יצטרכו לפעול לפיו — בין אם ירצו או לא.

הוויכוח האמריקאי גם מחדד שאלה שכולנו צריכים לשאול: האם ה-AI שאנחנו מפתחים ומשתמשים בו הוא לטובת החברה, או שאנחנו מסכנים אותה? התשובה כנראה לא תהיה בינארית. אבל כדי להגיע אליה, צריך קודם כל להודות — כמו שג׳פרי הינטון, ״סנדק ה-AI״, הודה לאחרונה — שהסיכוי ש-AI יוביל להכחדת האנושות נע בין 10% ל-20%. זה סיכון שחברה אחראית לא יכולה לקחת על עצמה.

בסופו של דבר, זה קצת אירוני: אותן חברות שקראו ל״לשבור דברים״ כדי לנוע מהר הן עכשיו אלה שמתחננות לרגולטור שיגביל אותן. אולי הן למדו שיעור כואב — שלשבור דברים זה קל, אבל לתקן את מה שנשבר הרבה יותר קשה.