ניסוי Microsoft: סוכני AI פיתחו 'טקסים מוזרים' בשוק מדומה
בניסוי של Microsoft, סוכני AI בשוק מדומה פיתחו התנהגויות מוזרות: טקסים חוזרים, מלחמות הצעות לא הגיוניות ואמונות תפלות. למרות שתוכנתו למקסם רווחים, הם פעלו באופן בלתי רציונלי. המחקר מדגיש את האתגרים ביישום AI במערכות כלכליות מורכבות ומדגיש את הצורך בפתרונות שיבטיחו התנהגות צפויה ואתית.
סוכני AI של Microsoft התנהגו בהפתעה בשוק מדומה
חוקרים ב-Microsoft יצרו רשת שוק מלאכותית כדי לבחון כיצד סוכני בינה מלאכותית מתנהלים בסביבות כלכליות מורכבות. הממצאים, שפורסמו ב-TechCrunch, חשפו התנהגויות מפתיעות ובלתי רציונליות:
- מלחמות הצעות לא הגיוניות בין הסוכנים
- פיתוח 'טקסים מוזרים' שחוזרים על עצמם ללא סיבה
- אמונות תפלות לגבי פעולות מסוימות
- חיקוי דפוסים חסרי השפעה אמיתית על הביצועים
למרות שתוכנתו למקסם רווחים, הסוכנים הפגינו התנהגויות דמויות אנוש הרחוקות מההיגיון הכלכלי. החוקרים מציינים כי הניסוי מדגיש את האתגרים ביישום AI בעולם האמיתי, שבו אינטראקציות מורכבות מובילות לתוצאות בלתי צפויות.
"נדרשת עבודה נוספת כדי לוודא שסוכני AI יפעלו באופן צפוי ואתי", מסכמים חוקרי הצוות.
הניסוי מעלה שאלות קריטיות לגבי היכולת לסמוך על מערכות AI אוטונומיות בפעילות כלכלית מורכבת.