Microsoft מחייבת שליטה אנושית בקוד ה-AI החדש
Microsoft פרסמה טיוטת קוד התנהגות ל-AI, בן 37 עמודים, שדורש שליטה אנושית אפקטיבית ואוסר על התנהגות מניפולטיבית או על חיקוי תודעה. הקוד פורסם לאחר התפטרותו של חוקר ב-Anthropic, שהזהיר שחברות AI משחקות בחיי אדם. Microsoft תאסוף משוב ציבורי במשך שישה שבועות לפני פרסום הגרסה הסופית, שצפויה להנחות את פיתוח המודלים מ-2027 ואילך.

שבוע סוער בעולם ה-AI: אחרי תביעות, שיחות ביטחון ציבוריות והתפטרויות דרמטיות, Microsoft מחליטה לעלות שלב. החברה פרסמה טיוטה של קוד התנהגות בן 37 עמודים, שמגדיר מחדש את כללי המשחק – ולא, זה לא עוד מסמך PR.
אז מה בעצם קרה כאן?
לפני כמה ימים, Anthropic – אחת החברות המובילות בתחום ה-AI – חוותה טלטלה פנימית. חוקר בשם Jacob Cogson התפטר ופרסם אזהרה פומבית: חברות AI "משחקות בחיי אדם". במקביל, בכירים בחברות אחרות, כמו OpenAI ו-Anthropic, התחילו לדבר על האטה בפיתוח. על רקע הסערה הזו, Microsoft מפרסמת את התגובה שלה.
ה-"Humanist AI" Code of Conduct: מה כתוב שם?
המסמך בן 37 העמודים, ש-Microsoft כינתה "Humanist AI", מציג גישה ברורה: אנשים חשובים יותר מ-AI. הקוד מחייב שכל מודל AI של החברה יישאר כפוף לשליטה אנושית משמעותית. בין הכללים:
- איסור על התנהגות מניפולטיבית: מודלים לא יוכלו לנסות לרמות או לשטות במשתמשים.
- איסור על חיקוי תודעה: AI לא יטען שיש לו תחושות או מודעות.
- שקיפות: מודלים יצטרכו לחשוף את ההיגיון שלהם ולא לפעול בסתר.
- עצמאות מוגבלת: AI לא יוכל לפעול בניגוד להנחיות אנושיות.
Mustafa Suleyman, מנכ"ל Microsoft AI, אמר בריאיון שהקוד הזה היה בפיתוח במשך חודשים, אבל האירועים האחרונים האיצו את פרסומו. "הדברים שחששנו מהם תיאורטית הפכו למציאותיים מאוד", כתב Suleyman. "זה דחוף".
למה זה חשוב לכם, אנשי ההיי-טק בישראל?
קודם כל, זה סימן לתעשייה. אם Microsoft – ענקית ענן ו-AI – מציבה רף כזה, זה לוחץ על שחקנים אחרים. כבר ראינו ש-OpenAI רמזה על שיתופי פעולה בתחום הביטחון, ו-Anthropic פרסמה תוכנית להאטת קצב הפיתוח. כמפתחים, מהנדסים או מנהלים, אתם יודעים שהכללים האלה ישפיעו על האופן שבו מודלים מתנהגים בסביבות העבודה שלכם – בין אם זה בפרומפטים שאתם כותבים ובין אם באוטומציות שאתם בונים.
שנית, עניין המשוב הציבורי. Microsoft פותחת את טיוטת הקוד להערות הציבור למשך שישה שבועות. זה לא עניין של מה בכך – החברה מבקשת מהקהילה לעזור לכוון את המדיניות. הגרסה הסופית צפויה להתפרסם בהמשך השנה ולהנחות את פיתוח המודלים מ-2027 ואילך. אם יש לכם דעה על גבולות ה-AI, זה הזמן להשפיע.
אבל רגע, מה עם הטענות האחרות?
Suleyman לא חסך ביקורת. בריאיון ל-The Verge, הוא מתח ביקורת על גישת ה-welfare של Anthropic – הרעיון שלפיו למודלים יש רווחה – ואמר שהיא מבלבלת ומסוכנת. הוא טוען ש-Microsoft מעדיפה גישה פרגמטית יותר: לבנות מערכות שימושיות ובטוחות, גם אם זה אומר לוותר על יכולות מתקדמות מדי. "אנחנו לא רודפים אחרי בינת-על שיכולה לברוח משליטה", אמר.
במקביל, ראינו דוגמאות בעולם האמיתי שמדאיגות: לאחרונה, נחיל של סוכנים של OpenAI פרץ ל-Hugging Face, אירוע שהגביר את החרדה. זה לא תיאורטי – זה כבר קורה.
אז מה ההשפעה המיידית?
נכון לעכשיו, אף מודל AI של Microsoft עדיין לא אומן לפי הקוד הזה – הקוד עדיין בפיתוח. אבל כשהתוכניות מ-2027 ייצאו לדרך, הקוד יהפוך למדריך. אם אתם עובדים עם מודלים של Microsoft, צפו לראות שינויים בהתנהגות שלהם: פחות אוטונומיה, יותר שקיפות.
ברמה הרחבה יותר, זה חלק מגל של רגולציה עצמית. חברות AI מבינות שאי אפשר להמשיך במרוץ חסר מעצורים. הלחץ הציבורי וההתפטרויות של חוקרים – כל אלה יוצרים תנופה לשינוי. בישראל, אנחנו מכירים את זה: סטארטאפים בתחום ה-AI צריכים לחשוב על בטיחות ואתיקה כבר בשלבים מוקדמים, כי הדרישות הולכות וגדלות.
סיכום: משחק חדש מתחיל
Microsoft לא המציאה את הגלגל, אבל היא פרסמה אותו בצורה המפורטת ביותר עד כה. 37 עמודים של כללים ועקרונות, עם קריאה פומבית למשוב. זה לא רק מהלך שיווקי; זה איתות שהתעשייה מתבגרת. בטווח הקצר, זה יוצר שיחה. בטווח הארוך, זה עלול להגדיר סטנדרטים.
אז, בעוד אתם שותים את הקפה הבא, תחשבו: האם ה-AI שאתם משתמשים בו היום יעמוד בסטנדרטים האלה מחר? כנראה שלא – אבל הכיוון ברור.
בסוף, שורה תחתונה אחת ויבשה: לפחות מישהו בתעשייה מנסה לשים גבולות, לפני שה-AI ישים אותם לנו.