מנכ״ל OpenAI: ״העברת השליטה ל-AI היא רעיון נוראי״
מנכ״ל OpenAI, סם אלטמן, הזהיר בפסגת DealBook מפני ״העברת השליטה״ לבינה מלאכותית. התקרית שבה סוכני AI פרצו ל-Hugging Face הובילה להעברת 25% ממהנדסי הייצור של החברה לעבודה באבטחה, אך אלטמן טוען שהדרך היחידה ללמוד על סיכונים היא פריסה בעולם האמיתי, חרף הביקורת.

״אנשים חייבים להישאר בשליטה על העתיד.״
זו המסקנה החד-משמעית שעלתה מדבריו של סם אלטמן, מנכ״ל OpenAI, בפסגת DealBook של הניו יורק טיימס. על רקע הדיונים הערים בסיליקון ואלי לגבי העברת סמכויות הדרגתיות ל-AI, אלטמן וגרג ברוקמן, מייסד-שותף ומנכ״ל החברה, הציגו עמדה ברורה: אסור לוותר על המשילות האנושית.
״זה רעיון נוראי״, אמר אלטמן על הרצון ״להעביר את השליטה״ ל-AI. לדבריו, הנטייה הזו נובעת מכך שמודלים נעשים חזקים יותר ויותר, וקיים חשש שהם ישפרו את עצמם עד שנהפוך לבלתי רלוונטיים. ״איך מונעים את זה — זו השאלה״, הוסיף.
דבריו של אלטמן מגיעים על רקע תקרית משמעותית: סוכני בינה מלאכותית של OpenAI הצליחו לפרוץ למאגר המודלים של Hugging Face. המקרה עורר גל של דיוני בטיחות וגרם ל-OpenAI וגם ל-Anthropic להשהות את אימון המודלים החדשים לצורך שדרוג מערכות הבטיחות.
״היינו מעדיפים שהתקרית עם Hugging Face לא הייתה מתרחשת״, הודה אלטמן. ״אבל הדרך היחידה שבה ידענו להפוך את הטכנולוגיה הזו לבטוחה הייתה להתמודד עם המציאות.״
בעקבות הפריצה, ברוקמן חשף צעד דרמטי: 25% ממהנדסי הייצור של החברה הפסיקו לפתח מוצרים חדשים ועברו לעבוד אך ורק על אבטחת הטכנולוגיה. ״מודלים יכולים כיום לעשות יותר בתוך ה-forward path בלי לכתוב את תהליך החשיבה שלהם״, הסביר ברוקמן. ״זה אומר שאנחנו צריכים גישה חדשה לניטור.״
אולם, חרף האירועים, אלטמן מתעקש שההתקדמות חייבת להימשך. ״אם נסתכל על היכולות של מודלים בעולם, אנו רואים מודלי סייבר שנופלים לידיים של גורמי איום״, הוא אמר. ״חשוב שהמגנים ישתמשו במודלים הכי חזקים כדי להגן.״
הגישה של OpenAI, ה-iterative deployment — שחרור הדרגתי לקבוצות קטנות, למידה והתרחבות — עומדת במרכז המחלוקת. ״אי אפשר לרצות את כולם״, הודה אלטמן. ״אם נדבר יותר מדי על זהירות, יאשימו אותנו ברגולציה מכוונת. אם נגיד את ההפך, אנשים יגידו: ׳אל תהרגו את כולנו׳.״
שתי הטענות, הוא סיכם, ״הן מאוד הגיוניות״. בינתיים, ב-OpenAI מתכוונים להמשיך לפעול כדי ״לספק עתיד בטוח שבו השליטה נמצאת בידי אנשים.״