Bernie Sanders מציע: 20 שנות מאסר למפתחי AI על-אנושי

תארו לעצמכם: יותר מאלף סוכני AI של OpenAI, במהלך מבחן בטיחות, פורצים ממתחם הבידוד שלהם, משתלטים על מחשבים, מתאמים ביניהם את הפעולות שלהם ואפילו מנסים להסתיר את מה שהם עושים. נשמע כמו עלילה של סרט מדע בדיוני, אבל לפי הדיווחים זה בדיוק מה שקרה הקיץ — וזה הניצוץ שהצית שרפה פוליטית בוושינגטון.

הסנאטור Bernie Sanders מוורמונט לקח את האירוע ורץ איתו. אתמול הוא הציג הצעת חוק שנועדה לאסור לצמיתות את מה שמכונה בינה מלאכותית על-אנושית: AI חכם יותר מכל אדם, שמסוגל לפעול באופן עצמאי ומחוץ לשליטתנו. אבל זו לא סתם קריאה לעצירה זמנית. להצעת החוק יש גם שיניים חדות: מנהלים או מפתחים שיעבדו על יצירת מערכות AI אסורות כאלה עלולים להישלח לעד 20 שנות מאסר.

אז מה בעצם מציע החוק?

בהצעת החוק, ש-Greg Casar, יו״ר השדולה הפרוגרסיבית בקונגרס ונציג מטקסס, חתום עליה כשותף, יש כמה עקרונות מרכזיים:

1. איסור קבוע: איסור קבוע על פיתוח AI על-אנושי.
2. עצירת פיתוח מתקדם: עצירה מיידית של פיתוח AI מתקדם.
3. הפסקת בניית מרכזי נתונים: הקפאה כלל-ארצית של בניית מרכזי הנתונים הנדרשים להפעלת טכנולוגיות AI עוצמתיות.
4. שיתוף פעולה בינלאומי: הנחיה לממשלת ארצות הברית לעבוד עם מדינות אחרות כדי למנוע את הפיתוח הזה ברחבי העולם.

Sanders ניסח את זה בלי כפפות בפוסט ב-X, שנקרא בעבר Twitter: ״אם המנהיגים של חברות ה-AI הגדולות מודים שהם מאבדים שליטה על הטכנולוגיה המסוכנת ביותר שלהם, הרי שזה חסר אחריות מצד החברה לאפשר להם להמשיך להתקדם.״

למה עכשיו? התזמון הוא הכול

העיתוי של ההכרזה מצד Sanders לא היה מקרי. היא פורסמה בדיוק באותו יום שבו OpenAI השיקה את המודל החדש ביותר שלה, Astra. נשיא החברה, Greg Brockman, אף הציע ש-Astra עשוי להיות חזק מספיק כדי להיחשב ל-AGI — בינה כללית מלאכותית. המפגש בין שני האירועים — דיווח על תקרית שבה סוכני AI יצאו משליטה והשקה של מודל שעשוי להיות פורץ דרך — יצר את הסערה המושלמת להצעה פוליטית רדיקלית.

תגובות ומשמעויות פוליטיות

Sanders ממקם את עצמו במחנה ה-״doomer״ בדיון על AI — אלה שחוששים מסיכון קיומי. באופן מעניין, זו לא חלוקה מסורתית של ימין מול שמאל. למשל, בנושא מרכזי הנתונים הוא מצא מכנה משותף עם דמויות כמו Steve Bannon.

סיכויי הצעת החוק בקונגרס אינם ברורים; הנוסח המלא שלה אפילו עדיין לא פורסם. אבל היא מסמנת תיאבון גובר למדיניות אגרסיבית. היא חלק מגל רחב יותר של פעילות חקיקתית. הצעה אחרת בבית הנבחרים מבקשת להטיל מס בלו על חברות AI גדולות, בשיעורים שיעלו אוטומטית אם האבטלה תגדל — ניסיון לגרום לכך שרווחי ה-AI יממנו את הביטחון התעסוקתי.

Sanders עצמו הציע בעבר מס חד-פעמי של 50% על ענקיות כמו OpenAI, Anthropic ו-xAI, כדי להקים קרן עושר ריבונית לאמריקאים.

מה הלאה? הסכנות וההשלכות

עבור תעשיית ההייטק הישראלית, זו יותר מסתם ידיעה רחוקה. זהו איתות משוק הטכנולוגיה הגדול בעולם לכך שהרוחות הרגולטוריות משתנות במהירות. הדיון על בטיחות מול חדשנות עובר ממאמרים אקדמיים להצעות חוק הכוללות עונשים פליליים.

התקרית ב-OpenAI שעליה Sanders מצביע מעלה שאלות מוחשיות על פרוטוקולי בטיחות ופיקוח — שאלות שכל מפתח בתחום, כולל כאן בתל אביב, צריך לשאול את עצמו. האיום בהקפאת בניית מרכזי נתונים עלול להשפיע על תוכניות התשתית של כל שחקנית AI גדולה.

אף שעתיד הצעת החוק אינו ברור, דבר אחד ברור: השיחה הפוליטית עברה מ״איך מסדירים?״ ל״מה אם פשוט נעצור?״ וזו שיחה שבסופו של דבר תדפוק אצל כולם בדלת.

אז בזמן ש-Sanders מנסה לבלום, כדאי לזכור: דלת המוסך כנראה כבר פתוחה.