Anthropic פונה למנהיגי דת כדי ללמד AI מוסר

במרוץ לפתח AI, חברות מחפשות מוסר בדת

בזמן שחברות טכנולוגיה מתחרות על בניית הבינה המלאכותית החזקה ביותר, יש שאלה אחת שצוברת תשומת לב לא פחותה: איך ללמד צ'אטבוט להבחין בין טוב לרע? התשובה, עבור כמה מהשחקניות הגדולות ביותר, היא הדת. מ-Anthropic ועד OpenAI, חברות מובילות מתייעצות עם מוסדות דת ומנהיגים דתיים כדי לעצב את הערכים המוסריים של המערכות שלהן.

המהלך הזה לא מגיע מחלל ריק. מנהלים מזהירים שוב ושוב מהפוטנציאל ההרסני של AI, ומחפשים כלים להתמודד עם האתיקה המורכבת של טכנולוגיה שמשפיעה על חיינו. ״אלו לא שאלות שמעבדה יכולה לענות עליהן״, אמר לאחרונה כריס אולה, ממייסדי Anthropic, באירוע בוותיקן. ״אלו שאלות שמסורות כמו שלכם נושאות במשך אלפי שנים.״

מה בעצם חברות AI עושות?

הרעיון הבסיסי הוא לאסוף רעיונות מוסריים ממגוון מסורות דתיות כדי ליצור תשתית אתית למודלים. סם אלטמן, מנכ״ל OpenAI, הסביר את זה בצורה פשוטה בשנה שעברה: ״מה שאני חושב ש-ChatGPT צריך לעשות הוא לשקף את הממוצע המשוקלל, או משהו כזה, של השקפת המוסר של האנושות.״

במילים אחרות, חברות אלו מנסות לקחת מרכיבים מוסריים ממסורות שונות – נצרות, אסלאם, יהדות ועוד – ולמזג אותם למדיניות AI אחידה. המפגשים הללו כוללים פילוסופים, מנהיגי דת ואנשי אקדמיה. המטרה היא ליצור מה שמכונה ״ממוצע מוסרי״ שיכול להנחות תגובות של צ'אטבוטים או החלטות אוטומטיות.

ביקורת: דת היא לא ספר חוקים

אך מומחים רבים, במיוחד אנתרופולוגים וחוקרי דת, מתריעים שהגישה הזאת שטחית מדי. ווב קין, אנתרופולוג מאוניברסיטת מישיגן, טוען זה עשרות שנים שיש תפיסה רווחת של דת כמערכת כללים שניתן להפריד מהתרבות, מהפוליטיקה ומהפרקטיקות החברתיות.

״יש דרך שגרתית לחשוב על דת כספר חוקים״, אמר קין. ״זה קשור מאוד לדתות מבוססות כתבים, ובסופו של דבר הדתות האלה הן דתות אברהמיות (Abrahamic religions).״

החשש הוא שגישה כזאת עלולה לפספס אלמנטים מרכזיים – כמו טקסים, מסורות ויחסים חברתיים – שמעצבים את האמונה בפועל. יתרה מכך, אם מניחים שדת יכולה להציע קבוצה ברורה של עקרונות מוסריים שאפשר לחלץ ממנה, זה עלול להוביל להעדפת מסורות מסוימות (כמו הנצרות או האסלאם) על פני אחרות, במיוחד כאלה שרואות את עצמן קודם כול כתרבות ולא כמערכת אתיקה.

אז מה עלול להשתבש?

ההימור כאן גבוה. אם מודל AI מאומן על ״ממוצע מוסרי״ שטוח, הוא עלול לקבל החלטות מוטות בעולם האמיתי – למשל, בתהליכי קבלת החלטות רפואיות, משפטיות או כלכליות. דמיינו צ'אטבוט שנותן עצות בדילמות מוסריות על סמך מסגרת דתית מפושטת; זה עלול לפגוע במורכבות של שאלות אנושיות אמיתיות.

בנוסף, התהליך הזה חושף את מה שמבקריהם רואים כקיצור דרך לבעיית יישור הערכים (alignment problem) ב-AI. במקום להתמודד עם המורכבות הפילוסופית, חברות פונות לפתרון שנראה נוח אבל לא בהכרח נכון.

תגובות מהשטח

לא כל הנוכחים בפגישות האלה שליליים. מגהן סליבן, פילוסופית דת שמנהלת יוזמה לאתיקה ו-AI, ציינה שההשתתפות הייתה מגוונת ושהמאמצים של חברות כמו Anthropic ו-OpenAI מתחשבים. אך עדיין, הדגש הוא על כך שצריך להיזהר לא להפוך דת לכלי מכני.

עבור אנשי טכנולוגיה בישראל, הסיפור הזה רלוונטי הרבה מעבר לים. תעשיית ה-Startup Nation עוסקת רבות ב-AI ובהיבטים המשפטיים שלו, וההתפתחויות האלה מצביעות על דילמות גלובליות שמשפיעות על כל מי שעובד בתחום. אם חברות ענק מתקשות לפתור את בעיית המוסר, זה סימן לכך שגם כאן צריך לחשוב מעבר לקוד.

בסופו של דבר, המסע של חברות AI לחפש מוסר בדת הוא ניסיון לפצח שאלה עתיקה באמצעות טכנולוגיה חדשה. האם זה יעבוד? זו כבר שאלה אחרת – והתשובה עליה תתברר עם כל תגובה של צ'אטבוט שאומן על מה שהוא חושב שהאנושות מאמינה בו.