OpenAI: ״שימוש צבאי ב-AI מטריד אותי בלילה״

מה מטריד את מי שאמונה על זכויות האדם באחת מחברות ה-AI החזקות בעולם? שרה יאגר, הראשונה בתפקיד זה ב-OpenAI, חוששת ממה שהצבאות עלולים לעשות עם מערכות בינה מלאכותית, במיוחד בכל הקשור לתקיפות ממוקדות ולנשק אוטונומי. ״כולם מודאגים, ובצדק״, אמרה יאגר בכנס ScaleUp:AI בניו יורק. ״הדברים האלה מטרידים אותי בלילה: מה הצבא יעשה עם AI בכל הקשור לבחירת מטרות? ומה עם נשק אוטונומי? לאן כל זה הולך?״

יאגר הצטרפה ל-OpenAI ביוני האחרון, לאחר שהחברה חתמה על חוזה עם משרד ההגנה האמריקאי (DoW) בפברואר. העסקה הגיעה לאחר מחלוקת ציבורית עם Anthropic, שרצתה להטיל מגבלות על השימוש הצבאי בטכנולוגיה שלה, כולל איסור על מעקב ציבורי המוני ועל נשק אוטונומי מלא. משרד ההגנה סירב, ו-OpenAI נכנסה במקומה, בטענה שהגיעה להסכמה על מגבלות דומות.

יאגר, עם 30 שנות ניסיון בתחום, ניגשה לתפקיד עם חששות, אך עשתה ״בדיקת נאותות״ והתרשמה מכך שהעובדים הצעירים ״מודאגים מאוד ממה שהם יוצרים ומי נמצא מאחורי ההגה״. מאז שהצטרפה, היא הצליחה להשפיע על הכיוון הטכנולוגי, ובכלל זה לעבוד ישירות עם חוקרים ומהנדסים לשיפור המודלים. לדוגמה, היא הביאה מומחים בינלאומיים ״שיישבו ממש על מקלדות ויקלידו הנחיות למצבי עימות בסיכון גבוה״, והמהנדסים התאימו את המודלים בהתאם, על בסיס אמנות ז׳נבה מ-1949. ״זה לא נעשה מעולם, אז זה היה מאוד מספק״, אמרה.

אבל יישומים בעולם האמיתי הוכיחו את עצמם כמסובכים. צבא ארה״ב כמעט פגע בספינת מלחמה סינית השנה, על בסיס דוח מודיעין שגוי שנוצר על ידי AI, כפי שדווח ב-CNN. יאגר חושבת שחברות AI מנסות ״להמציא מחדש את הגלגל״ בשאלות של הגדרת אנושיות ומוסר. ״חברות כבר פתרו הרבה מהדברים האלה, וזה נקרא זכויות אדם. זה צריך להיות קו הבסיס״, אמרה. ״אני לא רוצה שחברת AI תגיד לי מה טוב. אם נאפשר לתעשייה לקבוע מה טוב, זו הפקרות מוחלטת.״

יאגר גם התייחסה לדאגה שלה לגבי קבוצות דמוגרפיות הומוגניות שבונות AI. למשל, בשבוע שעבר כינס הנשיא טראמפ מנהיגים מתעשיית הטק בוושינגטון כדי לדון בביטחון AI. כל החותמים על הסכם הבטיחות מרצון היו גברים, ולפי התמונות, כל המשתתפים באירוע היו גברים, למעט מנכ״לית AMD, ליסה סו. ״גברים הם מעולים, אבל זו הייתה תמונה מאוד גברית של מי שיקבל החלטות לגבי AI״, אמרה. ״בעיה אחת עם זה היא ש-AI משנה באופן יסודי את מאזן הכוחות בין אנשים ברחבי העולם, ולא ראיתם שם למעלה קהילות מושפעות.״

יאגר מציינת שהממשלה מאמצת AI במהירות, והיא עוזרת לגופי פיקוח, כמו משרד האחריות הממשלתית (GAO) והמפקח הכללי, לבנות כלים כדי לעקוב אחרי מה שקורה. מנגנון האחריות הזה ״מרגיש חשוב לדמוקרטיה״, אמרה.

בסופו של דבר, יאגר מתמקדת בזכויות אדם ולא בדיונים על זכויות של AI או של סוכנים. ״זה בכלל לא משתווה לזכויות אדם, ואני מאוד אשמח אם נוכל פשוט לחזור ל׳אדם׳ בזכויות אדם״, אמרה, לקול מחיאות כפיים מהקהל.