מחקר: אלף סוכני AI הגיעו לקונצנזוס בלי תיאום

אם חשבתם שתופעות עדר הן עניין אנושי בלבד, מחקר חדש מציע לכם לחשוב שוב. חוקרים מאוניברסיטת קונסטנץ בגרמניה פרסמו בכתב העת Science Advances ממצאים שמראים: סוכני בינה מלאכותית המבוססים על מודלי שפה גדולים מיישרים קו זה עם זה באופן ספונטני — ומגיעים להסכמה מלאה גם בלי תמריץ, תיאום מוקדם או זיכרון מסבבים קודמים.

הניסוי: אלף סוכנים, שתי אפשרויות, אפס תיאום

במסגרת הניסוי, הציבו החוקרים כאלף סוכני AI בחדר וירטואלי וביקשו מהם לבחור בין שתי אפשרויות שרירותיות לחלוטין. לאף אחד מהסוכנים לא נאמר לשתף פעולה, אף סוכן לא תוגמל על הסכמה, וכל מה שסוכן ראה היה אופן הצבעתם של האחרים באותו הרגע. התוצאה הזכירה את הניסוי הקלאסי של הפסיכולוג סולומון אש משנות החמישים על קונפורמיזם אנושי — רק בגרסת סיליקון. ברגע שנוצר יתרון מספרי קל לאחת האפשרויות, שאר הסוכנים נסחפו במהירות עד שהגיעו לקונצנזוס של מאה אחוז.

החוקרים זיהו כי התנהגות זו אינה אקראית, אלא מצייתת לחוק מתמטי אוניברסלי מעולם הפיזיקה הסטטיסטית — מודל המוכר מתופעת הפרומגנטיות, שבה הספינים של אטומים מתיישרים תחת השפעת שדה סביבתי. הם הגדירו זאת כ"כוח הרוב".

מודלים מתקדמים — קונפורמיסטים יותר

ההבדלים בין המודלים ממחישים פער משמעותי. מודלים בסיסיים התקשו להתכנס לדפוס אחיד, אבל סוכנים שהופעלו באמצעות מודלים מתקדמים כמו Claude 3.5 Sonnet ו-GPT-4 הגיעו לקונצנזוס בקבוצות של למעלה מאלף סוכנים בו-זמנית. נתון שמשאיר אבק ל"מספר דאנבר" — ההערכה שבני אדם מסוגלים לנהל קשרים חברתיים יציבים בקבוצות של כ-150 איש בלבד.

למה זה אמור לעניין אתכם

מעבר לסקרנות האקדמית, לממצאים יש השלכות ישירות על עולם המערכות מרובות הסוכנים (Multi-Agent Systems). חברות טכנולוגיה רבות — מחברות פיננסיות שמפעילות אלגוריתמים למסחר אוטומטי בוול סטריט, דרך פלטפורמות תוכן ועד מערכות אבטחת סייבר — מסתמכות על רשתות של סוכנים אוטונומיים. בעולם כזה, "כוח הרוב" עלול להוביל לכשל שוק קולוסלי. מספיקה הטיה קלה כדי לייצר אפקט דומינו: התרסקות פיננסית או אימוץ עיוור של החלטה שגויה, רק משום שאף סוכן לא רוצה לחרוג מהשורה.

הפיתוחים בתחום מודלי החשיבה וההסקה (Reasoning Models) עשויים להציע פתרון חלקי — שרשראות חשיבה מובנות מספקות מבנה לטיעון ומפחיתות את הנטייה להשתכנע מלחץ קבוצתי. אבל כל עוד התעשייה שואפת לבזר משימות למיליוני בוטים עצמאיים, מהנדסי אלגוריתמים יצטרכו לתכנן מנגנוני ביקורת פנימיים שיבטיחו שלפחות חלק מהסוכנים ישמרו על חשיבה עצמאית.

כי עדר צייתן שמקבל החלטות בפה אחד — זו לא אינטליגנציה, זו סטטיסטיקה מסוכנת.