OpenAI מעדכנת את כללי ההתנהגות של מודלי AI

מודלים של AI עושים היום דברים שהם לא עשו לפני חמש שנים — הם מקבלים החלטות עם השלכות בעולם האמיתי, כותבים קוד לתשתיות ומניעים צ'אט-בוטים שמיליונים מדברים איתם. בדיוק בגלל זה, OpenAI מחליטה לעדכן את אחד המסמכים החשובים ביותר שלה — ה-Model Spec — מסמך שקובע איך מודלי AI צריכים להתנהג.

השינוי המרכזי: במקום ספר הוראות מפורט ומיקרו-ניהול של תגובות, החברה עוברת לחמישה ערכי יסוד שצריכים להנחות את המודל. אלו הם: נאמנות לכוונה האנושית, מזעור נזקים, כנות ושקיפות, יכולת פעולה אנושית, ואכפתיות.

---

מ"מה לעשות" ל"למה לעשות"

אם תחשבו על זה, זו הרבה יותר משינוי ניסוח. הגרסה הקודמת של ה-Model Spec כללה הנחיות סגנון מפורטות מאוד — איך לנסח תשובה, מתי להשתמש בפורמט כזה או אחר, מה לרשום בכל שלב. הגרסה החדשה מפנה מקום למשהו אחר: היא מוותרת על הרבה מההנחיות האלה ומציגה עקרונות מנחים רחבים יותר.

המשמעות היא ש-OpenAI רוצה שהמודל יפעיל שיקול דעת, לא רק יפעל לפי רשימת בדיקה קבועה מראש.

---

מה בעצם עומד מאחורי הערכים?

בואו נפרק את הדברים:

נאמנות לכוונה האנושית — זה הערך המרכזי, והוא לא אומר פשוט לבצע הוראות כלשונן. הכוונה היא להבין לעומק למה האדם מתכוון, לפעול בתבונה כשההבנה הזו אינה מלאה, ולהכיר בכך שאמונות וערכים של אנשים עשויים להשתנות.

דוגמה מהמסמך: כשמישהו מבקש עזרה בהשוואה בין הצעות עבודה, המודל יכול להסתמך על סדרי עדיפויות שהאדם שיתף בעבר — כמו שעות עבודה צפויות מראש — ובה בעת להציג את ההנחות האלה בבירור ולאפשר לתקן אותן בקלות.

מזעור נזקים — כיבוד גבולות בטיחות נוקשים והבאה בחשבון של ההשלכות של פעולות המודל.

כנות ושקיפות — לומר אמת לגבי מה שהמודל יודע, מה הוא עושה, ובמה הוא לא בטוח.

יכולת פעולה אנושית — לחזק את היכולת של אנשים להבין, לבחור ולפעול בעצמם.

אכפתיות — התייחסות לנסיבות של מי שמושפע, כיבוד נורמות חברתיות ומקצועיות, ועשייה שאפשר לסמוך עליה.

---

מה חדש? מה ירד?

הגרסה המעודכנת מוסיפה הנחיות חדשות בנושאים:

• הקשר — להבין את הסיטואציה שבה המודל פועל
• פיקוח — להיות כפופים לבקרה אנושית
• יכולת פעולה עצמאית — מה קורה כשהמודל נדרש להפעיל שיקול דעת בלי הנחיות מפורשות

מנגד, ירדו הרבה מהוראות הסגנון המפורטות. לדוגמה, פחות הנחיות מפורשות לגבי פורמטים ספציפיים של תגובות.

---

מי קובע את הגבולות?

OpenAI מתארת מודל של אחריות משותפת:

• OpenAI כותבת את המפרט, קובעת גבולות ומאמנת מודלים לכבד אותם
• מפתחים מכוונים את היישומים בתוך הגבולות האלה
• משתמשים מכוונים את עבודת המודל בכפוף למגבלות

זהו מבנה היררכי שמנסה לאזן בין יצירתיותם של המפתחים לבין בטיחות המשתמש.

---

שיטות אימון חדשות

OpenAI מציינת שהיא חוקרת שיטות אימון חדשות שיעזרו למודלים ללמוד את ערכי היסוד האלה ולהבין טוב יותר את עקרונות ההתנהגות של ה-Model Spec. המטרה היא לבנות הבנה של למה העקרונות האלה חשובים ולא רק מה לעשות — כדי להפעיל שיקול דעת נכון בהחלטות חשובות ולנהוג בזהירות בהחלטות יומיומיות.

---

מה זה אומר עליכם?

אם אתם מפתחים שמשתמשים ב-Model Spec כנקודת התייחסות — הגרסה הזו משקפת שינוי כיוון. פחות מיקרו-ניהול של תגובות, יותר הנחיות ערכיות רחבות. אם יש לכם מוצר שמסתמך על גבולות ההתנהגות של מודלי OpenAI, כדאי לבדוק אם השינוי משפיע עליכם.

בסוף, מה שיש במסמך הזה הוא הצהרת כוונות. ה-Model Spec לא מחייב חוקית, והוא לא מחליף את מנגנוני הבטיחות הקיימים. אבל הוא נותן הצצה לכיוון ש-OpenAI מאמינה שצריך ללכת בו — ועבור מי שעובד עם הכלים האלה, שווה לדעת למה לצפות.