הקונגרס דורש פיקוח AI חזק יותר אחרי אזהרת חוקר

כשחוקר ב-Anthropic עוזב את תפקידו עם אזהרה ש״אנשים שבונים AI מאמינים בכנות שזה עלול להרוג את כולנו עד סוף העשור״, זה לא סתם עוד כותרת – זה רגע שמזעזע את תעשיית הטכנולוגיה. ג׳ייקוב קוקסון, חוקר ב-Anthropic, התפטר לאחרונה כשהוא טוען שחברות AI ״מהמרות על החיים שלנו״, והתגובה לא איחרה להגיע: מנכ״ל Anthropic, דאריו אמודיי, פרסם בשבת תוכנית בת שלושה צעדים להאטת קצב הפיתוח, ואילון מאסק וסם אלטמן הביעו תמיכה פומבית. ״דאריו צודק״, צייץ מאסק. אלטמן הסכים, וציין שהקצב היה ״נושא מרכזי״ בדיונים האחרונים ב-OpenAI, ואף רמז שהחברה לא תצא להנפקה (IPO) השנה.

אז מה בעצם קרה כאן? ההתפטרות של קוקסון והאזהרות שלו יצרו אפקט דומינו. בתוך ימים, עובדים ב-Anthropic וב-OpenAI התחילו לדבר בגלוי על הדילמה שלהם: להישאר מבפנים כדי להשפיע, או לעזוב כדי לא לסייע במרוץ שהם מאמינים שמתרחק משליטה. אחרים מותחים ביקורת על תוכניתו של אמודיי, וטוענים שזה ״מעט מדי, מאוחר מדי״.

התוכנית של אמודיי כוללת שלושה צעדים עיקריים. ראשית, כל חברת AI בארה״ב תאפשר גישה שוטפת לבודקים חיצוניים שיפקחו על עמידה בתקני בטיחות. שנית, חברות במדינות דמוקרטיות יקבעו תקני בטיחות משותפים ויגבילו את קצב ההתקדמות הבלתי מבוקרת. שלישית, מדינות דמוקרטיות יתאמו עם משטרים אוטוקרטיים, כמו סין, כדי לשלוט במרוץ – צעד שנחשב למסובך ביותר.

אבל יש מי שמבקר את הגישה הזו. דיוויד סאקס, יועץ למדע וטכנולוגיה בבית הלבן, הגיב לתוכנית: ״הדרך הקלה ביותר לא לבנות בינה מלאכותית על-אנושית היא להסכים לא לבנות אותה״. הוא טען שדרישת מסגרת רגולטורית כזו עלולה להיראות כסחיטה פוליטית. גם הנשיא דונלד טראמפ נראה מהסס להודות בחששות מפני AI, ואמר לאחרונה ש״אנשים מעלים דברים שלא יקרו״. החשש שלו מהפסד לסין גדול יותר, ושר האוצר האמריקאי, סקוט בסנט, ציין: ״אין מחר אם סין מנצחת ב-AI״.

על רקע זה, גל הדרישות לפיקוח מתעצם. יותר מ-20 חברי קונגרס אמריקאים קוראים כעת לפיקוח פדרלי חזק יותר על AI, כולל סמכויות חירום. זה קורה אחרי פרסום שלפיו Anthropic גילתה שמשתמשים מתחמקים מאמצעי בקרה כדי להשתמש בדגמים קיימים ״בצורות שיכולות לתמוך בפיתוח נשק ביולוגי״ – כמו נגיפים חדשים של שפעת העופות. המחוקקים בארה״ב ובלונדון דורשים מגבלות ואיסורים על סוגי הפיתוח המסוכנים ביותר.

ומה עם השוק? החששות כבר משפיעים על הכלכלה. מחירי הנפט עלו ביום שני בגלל סגירת צינור סעודי, ומדד S&P 500 ירד בשבוע שעבר ב-0.8%. בתוך כל זה, העובדים בתעשייה מתמודדים עם שאלה קיומית: האם להישאר ולדחוף לשינויים, או לעזוב כדי לא לסייע במרוץ שלדעתם יוצא משליטה? התשובה עדיין לא ברורה, אבל דבר אחד בטוח – הדיון על בטיחות AI עבר ממילים למעשים, ועכשיו גם הקונגרס האמריקאי נכנס לתמונה.