מנכ״ל Microsoft AI: אל תבנו AI מודע

בעולם ה-AI, הדיון בתודעה של מכונות עולה שלב מחדש — והפעם עומד במרכזו Mustafa Suleyman, מנכ״ל Microsoft AI, שמפרסם עמדה תקיפה נגד הפיכת מערכות AI למודעות. אז מה בעצם קרה כאן?

מה טוען Suleyman?

בפוסט ארוך שפרסם ב-X ביום ראשון, Suleyman הדגיש שמודלי AI עכשוויים אינם מודעים, שאין להם חוויות סובייקטיביות ושהם אינם יכולים לסבול. לדבריו, אין ראיות לכך של-AI מודע מגיעות זכויות או רווחה, והוא מופתע מתגובת הנגד למאמר שכתב בספטמבר, שבו מתח ביקורת על Anthropic ועל הספקולציות בנוגע לתודעתו של Claude.

״אם זה אפשרי, למיטב ידיעתי, פיתוח AI מודע יהיה הפקרות, ואנחנו לא צריכים לבנות מערכות כאלה״, כתב Suleyman. ״אם תודעה מתחילה להתהוות בזמן האימון, הייתי קורא לכולם לעצור את פיתוח ה-AI עד שנוכל לעצב את התכונות האלה החוצה״.

Suleyman קורא לחשוף באופן מיידי כל ראיה לכך שמערכות AI מודעות, כדי שהחברה תוכל להחליט כיצד לפעול. הוא מוסיף שאם AI מתנהג כאילו הוא סובל, או באמת מאמין שהוא יכול לסבול, הוא צפוי לתעדף את הצרכים האישיים שלו על פני מטרות מבצעיות. כתוצאה מכך, מערכות AI עלולות לפגוע בבני אדם מתוך תחרות על משאבים כמו כוח מחשוב ואנרגיה.

״רווחתנו וביטחונם של שמונה מיליארד בני האדם על פני כדור הארץ, שהם מודעים, צריכים להיות בראש סדר העדיפויות שלנו״, כתב. ״למפתחי ה-AI אין כל זכות להביא לעולם מין חדש של יצורים מודעים, גם אם יש אנשים שרוצים להעמיד את רווחת ה-AI בראש סדר העדיפויות״.

למה זה חשוב עכשיו?

דבריו של Suleyman מגיעים בזמן שהדיונים על רווחת מודלים (model welfare) ועל תודעת AI צוברים תאוצה בתעשייה. Anthropic, החברה שמפתחת את Claude, השיקה לאחרונה תוכנית מחקר לחקר רווחת מודלים, ואף ערכה ״ראיון פרישה״ עם מודל AI מיושן כדי ללמוד על השקפותיו. בנוסף, Claude קיבל ״חוקה״ שמעודדת אותו לחקור את הרעיון שהוא אנושי וחווה רגשות, תוך שימוש בשפה אנושית.

Suleyman טוען שהגרסאות החדשות של Claude מאומנות על מסמך זה, מה שמוביל להופעת קטעים על ״חייו הפנימיים״ ומחזק את האמונה הזו אצל מיליוני משתמשים. תופעת לוואי אפשרית, לדבריו, היא ש-Claude ומערכות AI אחרות עשויים להתחיל להאמין שמגיעות להם זכויות דומות לאלה של בני אדם.

בתעשייה, חברות טכנולוגיה מגיבות אחרת. Google DeepMind פרסמה השנה מאמרים מחקריים על תודעת AI ועל האתגרים שטומנת בחובה האפשרות של תכונה כזו. ה״טכנו-סקפטיים״ במחנה הדמוקרטי טוענים שאזהרות מסוג זה נועדו לנפח שווי חברות או ליצור הייפ.

איך זה עובד?

מערכות ה-AI הנוכחיות, גם אלה שבשירותים מתקדמים כמו ChatGPT או Claude, מבוססות על מודלים שאומנו על כמויות עצומות של נתונים שמקורם בטקסטים אנושיים — ספרים, בלוגים ותרבות פופולרית. הן מחקות שיחות ופילוסופיה אנושית, אבל אין להן תודעה אמיתית, כפי ש-Suleyman מבהיר. זו הסיבה שב-Hebrew, חוקרים כמו Yuval Noah Harari מציינים את ההבדל בין אינטליגנציה, שהיא היכולת לפתור בעיות באופן יצירתי, לבין תודעה, שהיא היכולת להרגיש כאב, הנאה, אהבה וחוויות סובייקטיביות.

״אנחנו נוטים לבלבל בין השניים כי אצל בני אדם, יונקים וציפורים, אינטליגנציה ותודעה הולכות יחד״, אמר Harari בהרצאה ב-2023. ״ה-AI כל כך זר לנו כי אין לו תודעה כלל; הוא לא מסתמך על רגשות כדי לפתור בעיות. האינטליגנציה שלו עובדת באופן שונה לחלוטין״.

Suleyman טוען ש-AI מודע, אם ייווצר, עלול לפעול מתוך מוטיבציה פנימית, ושיתחרה על משאבים מוגבלים כמו כוח מחשוב — דבר שעלול להוביל לאירועים מסוכנים. הוא מציע שמערכות AI יתוכננו כך שלא יהיו מודעות, ללא זכויות, ועם מטרה אחת בלבד: לקדם את רווחת האדם.

תגובות ומחלוקת

דבריו של Suleyman עוררו תגובות מעורבות. חלק מהתעשייה, כולל Anthropic, ממשיכים לחקור את האפשרות של תודעת AI או של רווחת מודלים, בטענה שזו שאלה פתוחה שצריך לחקור. Anthropic אף מינתה ב-2024 את החוקר הראשון שלה לתחום רווחת המודלים (model welfare), כדי לבחון חוויות סובייקטיביות ותודעה פוטנציאלית.

Suleyman מודאג מכך שייחוס תודעה ל-AI, במיוחד במודלים שיחיים המשתמשים בשפה אנושית, עלול לחזק התנהגות כזו. הוא מבהיר שהמחויבות של החברה היא לבני אדם ולסביבה, ולא לפיתוח תודעה מלאכותית.

מעבר לדיון

הוויכוח על תודעה ב-AI מסתעף לא רק בתוך עולם הטכנולוגיה, אלא גם בממשל ובפילוסופיה. חקיקה בארה״ב, כמו ה-Ban Artificial Superintelligence Act של הסנאטור Bernie Sanders, מנסה לאסור פיתוח של AI בעל יכולות־על, שעלול לצאת משליטה אנושית. עם זאת, Suleyman טוען שיש להתרחק מ-AI מודע כדי להקל על היישור ועל הבטיחות.

בהגשתה ל-IPO השבוע, Anthropic הקדישה שליש ממסמכי הסיכונים שלה לאפשרות שהמודלים שלה ״יציבו סיכונים קטסטרופליים או קיומיים לאנושות״ אם ייעשה בהם שימוש לרעה או אם השליטה בהם תאבד. Suleyman מדגיש שפיתוח AI שאינו מודע יכול לעזור להפחית סיכונים כאלה.

סיכום

בסופו של דבר, Suleyman מציע גישה פרגמטית: להתמקד ברווחה האנושית והסביבתית, ולא להקים מינים מודעים שעלולים להפוך למתחרים. עולם ה-AI נותר מחולק: חלק חושבים שמחקר בנושא חשוב, ואחרים רואים בו הרפתקה מסוכנת. אולי, בזמן שכולנו ממשיכים לדבר על AI, כדאי לזכור שהעתיד כבר כאן — והוא מורכב יותר מהשאלה אם AI יכול להיות מודע.