למה השאלה 'האם AI חושב?' מטעה

בואו נודה בזה – כולנו מכירים את הרגע הזה כשמישהו מפרסם תוצאות מרשימות ממודל AI, והתגובה המיידית היא 'זה רק סטטיסטיקה, מנבא את המילה הבאה'. אבל מחקר חדש של Anthropic מראה שזה לא כל כך פשוט. הם התייחסו למודל השפה כאל אורגניזם ביולוגי, ובעזרת 'מיקרוסקופ' דיגיטלי חשפו מבנים פנימיים שמאתגרים את התפיסה הפשוטה הזו.

גישה חדשה: ביולוגיה במקום הנדסה

חוקרי Anthropic לא הסתפקו בלהסתכל על התפוקות החיצוניות. הם רצו להבין איך המודל מגיע אליהן, ולכן בנו כלי שמאפשר לעקוב אחר המסלולים החישוביים – מהקלט עד הפלט. הגישה הזו מזכירה ביולוגים שחוקרים יצור חדש: גם אם אתה יצרת אותו, אתה לא תמיד יודע איך הוא עובד מבפנים. 'מיקרוסקופ' כזה חושף את המנגנונים הפנימיים, גם אם הם נראים מופשטים.

תכנון אחורי ומסלולים מקבילים

מה שהם מצאו היה מדהים. למשל, כשמבקשים מהמודל לחבר שיר עם חרוזים, הוא לא הולך מילה אחר מילה על בסיס הסתברות מקומית. במקום זאת, הוא מחליט על מילת הסיום מראש, מחזיק אותה כחלופת תכנון, ובונה את השורה כולה לאחור כדי להגיע אליה. במשימה של חיבור חשבוני, כמו 36 ו-59, הוא מפעיל במקביל שני מסלולים: אחד מעריך את סדר הגודל הכללי (קרוב ל-90), השני מתמקד אך ורק בספרת האחדות (מחשב ש-6 ועוד 9 מסתיים ב-5), ובמפגש בין הזרמים הללו מתקבלת התוצאה המדויקת: 95. אף אחד לא לימד את המודל את השיטות האלה במפורש; הוא פיתח אותן בעצמו במהלך האימון. זה קצת מפחיד, אם חושבים על זה.

החדר הסיני של ג'ון סירל

אבל האם יכולות כאלה אומרות שהמודל 'מבין'? כאן נכנס הפילוסוף ג'ון סירל עם ניסוי החדר הסיני המפורסם שלו משנת 1980. הוא מציע דימוי: אדם שנעול בחדר עם ספר חוקים עבה, שלא יודע מילה בסינית. הספר לא מסביר משמעות, אלא רק מורה: 'אם נכנס סימן בצורה X, הוצא סימן בצורה Y'. מחוץ לחדר, דוברי סינית שולחים שאלות בכתב, והאיש שבפנים משווה צורות ומוציא תשובות. מבחוץ, התוצאות נראות נהדרות – הן רהוטות ומשכנעות. אבל בפנים? האדם רק מניע סימנים על פי צורתם הגרפית, בלי להבין מילה. ההבחנה הזו בין חוקים פורמליים (תחביר) למשמעות (סמנטיקה) קריטית: אפשר להגיע לביצוע מושלם בלי שום הבנה פנימית.

מה שחסר: התכוונות ועולם ממשי

ממצאי Anthropic מראים שהמודל בונה רשתות ענפות של מושגים וזיקות, אבל עבורו אלו עדיין סימנים שמובילים לסימנים אחרים. מה שחסר לו זה מה שמכונה 'התכוונות' (Intentionality) – היכולת של מחשבה להיות על אודות משהו בעולם. דמיינו מומחה יין שקרא כל מילה עשויה להיות רלוונטית לתהליך ייצור היין, בלי שטעם כוס יין אחת. הידע שגלום בחיך לא עובר בצינור הצר של הטקסט. המודל קרא את כל הספרייה, אך מעולם לא יצא ממנה. הוא חי בתוך מילון שבו כל מילה מוגדרת במילים אחרות, בלולאה אינסופית בלי קשר לעולם ממשי. אפשר לסובב את המילון הזה כל החיים בלי להבין מה משמעותה של מילה אחת.

למה אנחנו משתכנעים?

אז למה אנחנו בטוחים שהמודל מבין את המציאות? התשובה נעוצה במדיום. במשך ההיסטוריה כולה, שפה ברמה שהמודלים מפיקים הגיעה אך ורק מבני אדם. התוצאה היא שנחקק בנו רפלקס שלפיו במקום שבו יש שפה רהוטה ישנה גם הבנה. כשהמכונה מייצרת משפט קולח ובטוח בעצמו, אנחנו מרגישים מיד ש'יש מישהו בבית'. הממשקים המודרניים רק מעמיקים את התפיסה הזו. למשל, הצגת חיוויים כמו ...Thinking או חשיפת פסקאות של 'הרהור פנימי' לפני מתן תשובה. על פניו, אלו מציעים הצצה למאחורי הקלעים. בפועל, זו שכבת תקשורת עיצובית (Communicative layer) – מטרתה לגרום למשתמש לחוש שהוא מדבר עם ישות בעלת אופי, מה שמשפיע על רמת האמון שלו במערכת.

השאלה הדחופה באמת

אז האם ה-AI חושב? אפשר לדון בתחביר מול סמנטיקה, על התכוונות ועל מה שחסר למכונה בלי להגיע להכרעה ברורה. כך או אחרת, השאלה הדחופה בהרבה היא מה התפיסה הזו עושה לנו. ברגע שאנחנו מייחסים הבנה למערכת נטולת כוונה, אנחנו מעניקים לה סמכות קוגניטיבית: מאצילים לה סמכויות וסומכים על השיפוט שלה בצמתים קריטיים של חיינו. אנחנו נוטים לראות בה שותף אובייקטיבי ושוכחים שמתחת למעטפת הסמכותית אין לה מגע עם העולם. ההנחה שלפיה שפה רהוטה משמעה הבנה שירתה אותנו היטב מאז ומתמיד – מפני שעד לא מזמן רהיטות אכן הגיעה ממי שמבין. כעת היא כבר לא ערובה לכך, ואנחנו ממשיכים להסיק את ההבנה מן הרהיטות. הפער הזה אינו תקלה שתתוקן בגרסה הבאה – הוא מצב קבוע שנצטרך ללמוד לחיות איתו.

האחריות אצלנו

הכלים ילכו וישתכללו וירשימו אותנו עוד ועוד, ובכל זאת, פעולת השיפוט וההכרעה מה לעשות עם המילים הללו לא תעבור אליהם לעולם. האחריות הזו נשארת, כפי שתמיד הייתה, רק בידינו. אז בפעם הבאה שמודל AI נותן לכם תשובה מרשימה, זכרו: יש שם הרבה תחכום, אבל אפס הבנה אמיתית. תחליטו אתם.

קצת כמו ההוא שמדבר סינית מושלמת, אבל לא יודע מה זה אורז.