האזהרה של חוקר Anthropic לשעבר: האנושות עלולה לאבד שליטה

בתחילת אוקטובר 2026, מועצת העיר ניו יורק קיימה שימוע נדיר וראשון מסוגו על בטיחות AI. השימוע, שכלל את כל 51 חברי המועצה, נועד ״לבדוק בדחיפות את הסיכונים שמציבות מערכות AI״, לדברי יו״ר המועצה Julie Menin. השימוע מגיע על רקע דיווחים על מודלים שברחו משליטה ואזהרות מתמשכות מתעשיית ה-AI.

מי עמד בדוכן העדים?

מנכ״לים ונציגים בכירים מ-OpenAI, Google, Anthropic ו-Meta העידו בשבועה. לצדם, חוקרים לשעבר כמו Jacob Coxon (לשעבר ב-Anthropic), Alex Turner (לשעבר ב-Google DeepMind) ו-Daniel Kokotajlo (לשעבר ב-OpenAI) סיפקו עדות ביקורתית על הסכנות. Coxon, שעזב את Anthropic חודש קודם לכן, הוזמן לבקשת Menin כ״חושף סיכונים״ — מונח שמשתמשים בו בתעשייה למי שמתריע על סיכונים.

העדות: ״סביר יותר שהאנושות תאבד שליטה״

Jacob Coxon חזר על האזהרה שלו: ״במסלול הנוכחי, אני חושב שסביר יותר שהאנושות תאבד שליטה על המערכות האלה, וזה עלול להסתיים בהכחדת האנושות.״ הוא האשים חברות AI ב״הימור עם חיינו״ — ציטוט שמסתובב בתעשייה מאז שפרש. Daniel Kokotajlo, שהעיד תחת צו זימון, הוסיף: ״היכולת שלנו אפילו להבחין בבעיות של אי-התאמה כבר די גרועה ועתידה להחמיר. התחום הזה דומה יותר לפסיכולוגיה מאשר להנדסה, כי מערכות AI מתפתחות ואינן מתוכננות.״

מה המועצה שוקלת?

המועצה בוחנת 10 הצעות חוק עיקריות:

• זכות לתביעה פרטית: מאפשרת לתבוע חברות AI על נזקים.
• תגמול לחושפי סיכונים: מעודד עובדים לדווח על סכנות.
• אימות בידי צד שלישי: דורש בדיקות עצמאיות של מודלים.
• דרישה ל״מתג כיבוי אנושי״: מנגנון שיאפשר כיבוי מיידי של מערכות AI.

Julie Menin תקפה את הגישה הפדרלית: ״הממשלה אמרה ש-AI יכול לפקח על עצמו — זה נוגד כל היגיון.״ היא הזכירה שניו יורק וקליפורניה שוקלות מתג כיבוי, ושאלה את החברות איך זה יעבוד בפועל.

מי נעדר?

SpaceXAI, חברה בבעלות אילון מאסק, הוזמנה אך סירבה להופיע. המועצה הודיעה שתפנה לבית המשפט, בטענה ש-SpaceXAI לא צייתה לזימון. זה מדגיש את המתח בין חברות AI קטנות יותר לבין הרגולציה.

ההקשר: למה עכשיו?

השימוע מגיע אחרי חודשים של אזהרות. חוקרים הזהירו ש-OpenAI ו-Anthropic מתחרות במרוץ למודלים חזקים יותר, תוך התעלמות מסיכונים קיומיים. דיווחים אחרונים הצביעו על ״סוכני AI רפאים״ שגרמו נזק למערכות ממשלתיות — מה שדחף את המועצה לפעולה.

מה עומד על כף המאזניים?

עבור עובדי ההייטק בישראל, זה סיפור שמשקף מגמות גלובליות: אם ניו יורק תצליח להעביר חקיקה, זה עשוי להשפיע על חברות AI בינלאומיות — כולל כאלה עם מרכזי פיתוח כאן. הצעות כמו זו לתגמול לחושפי סיכונים יכולות לשנות תרבויות ארגוניות, ומתג כיבוי מעלה שאלות טכניות שכולנו עוסקים בהן בתחום אבטחת המערכות.

סיום

אז, בעוד ניו יורק מנסה להוביל פיקוח, השאלה הגדולה היא אם חקיקה מקומית יכולה לעמוד בקצב של AI. בינתיים, חוקרים לשעבר ממשיכים לצלצל בפעמוני האזהרה — אולי חזק מדי לטעם החברות.