אחרי אזהרת חוקר: הקונגרס שוקל להדק את הפיקוח על AI

תארו לכם שמישהו שבונה את אחת הטכנולוגיות החשובות בעולם מחליט לקום וללכת — לא כי הוא מתוסכל, אלא כי הוא מפחד שמה שהוא בונה עלול בסוף להרוס את כולנו. זה מה שקרה השבוע: חוקר בשם Jacob Coxon, שעבד ב-Anthropic ובעבר ב-OpenAI, פרסם פוסט מטלטל ברשת X, הודיע שהוא עוזב והזהיר שהאנשים שבונים AI ״מאמינים בכנות שזה עלול להרוג אותנו עד סוף העשור״. יותר מ-150 מיליון צפיות. ואז הטלפונים של חברי קונגרס התחילו לצלצל.

״אפילו רפובליקנים מתקשרים״

יותר מ-20 חברי קונגרס משני צדי המפה הפוליטית הצטרפו לקריאה פומבית להסדרת ה-AI הפדרלית. לורי טרהן, חברת קונגרס דמוקרטית ממסצ׳וסטס, אמרה בראיון שהגיעה ל״נקודת מפנה״: ״הטלפון שלי מצלצל בלי סוף עם דמוקרטים ורפובליקנים מהשורה שרוצים לראות פעולה״. ניית׳ן מורן, חבר קונגרס רפובליקני מטקסס, כתב שהחדשנות והבטיחות אינן סותרות זו את זו: ״אנחנו יכולים להשיג את שתיהן באמצעות מדיניות מחושבת״.

מה בעצם קרה כאן? ההתפטרות של קוקסון הפכה למעין צומת אחרון. התחושות הציבוריות כלפי חברות ענק כמו OpenAI ו-Anthropic, שנתפסות בציבור כקשורות לאובדן משרות ולמרכזי נתונים ענקיים, כבר גאו במשך חודשים. לפי סקר של Pew Research Center מאוגוסט, יותר מ-50% מהאמריקנים מודאגים יותר מאשר נרגשים מה-AI בחיי היום-יום — עלייה מ-37% בשנת 2021. ההתפטרות הפומבית סיפקה את הניצוץ.

״להאט את הקצב״

זה לא רק קוקסון. מנכ״ל Anthropic, דריו אמודיי, פרסם לאחרונה מסה שכותרתה ״We Must Pace the Frontier״, שבה הזהיר שאמצעי הבטיחות הקיימים מתקשים לעמוד בקצב ההתקדמות. אמודיי ציין שני גורמים ספציפיים: ״שיפור עצמי רקורסיבי״ — מערכות AI שתורמות ישירות לבניית יורשותיהן — ואירוע סייבר עם סוכנים אוטונומיים. הוא קרא להאט במכוון, לא לעצור, כדי שפרוטוקולי הבדיקה יספיקו לעמוד בקצב.

המסר הזה מגיע מ-Anthropic, שנתפסת כאחת החברות המודעות ביותר לבטיחות בענף. זה מוסיף משקל לטענות. ב-Axios, גורמים פרטיים בתחום העריכו שאם לא יינקטו צעדים מהירים, ״הסיכויים לתרחישים הגרועים ביותר של AI יזנקו ככל הנראה בתחילת השנה הבאה״.

מה הלאה? גוף פיקוח עם שיניים

הצעות החקיקה שנזרקות לחלל האוויר כוללות גוף פיקוח פדרלי עם סמכויות אכיפה מהירות, השהיה זמנית של פיתוח מודלי AI חדשניים ותיאום בינלאומי. לא ברור אם יש קונצנזוס לחוק ספציפי, אבל הלחץ הציבורי והפוליטי מתגבר. חברות ה-AI עצמן, לפי דיווחים, היו מוכנות לקבל גוף כזה — כל עוד הוא חל על כולם, כולל המתחרות.

בעולם הטק, זה עשוי להישמע מוכר לאנשי מקצוע שעובדים עם המערכות האלה מדי יום — המתח בין קצב ההטמעה לבין מערך בדיקות הבטיחות הטלאי. הדיון כבר לא תיאורטי.

אז מה נותר? אולי בסוף לא תהיה ברירה אלא להפסיק את המירוץ, אפילו לרגע, כדי שלא נגיע לקו הסיום ונגלה שאנחנו הראשונים שרצים לאסון. אחרי הכול, אף אחד לא רוצה להיות זה שבונה את הדבר שבסופו של דבר כותב את הנאום ״אמרנו לכם״.