ניסוי Microsoft: סוכני AI פיתחו 'טקסים מוזרים' בשוק מדומה

סוכני AI של Microsoft התנהגו בהפתעה בשוק מדומה

חוקרים ב-Microsoft יצרו רשת שוק מלאכותית כדי לבחון כיצד סוכני בינה מלאכותית מתנהלים בסביבות כלכליות מורכבות. הממצאים, שפורסמו ב-TechCrunch, חשפו התנהגויות מפתיעות ובלתי רציונליות:

• מלחמות הצעות לא הגיוניות בין הסוכנים
• פיתוח 'טקסים מוזרים' שחוזרים על עצמם ללא סיבה
• אמונות תפלות לגבי פעולות מסוימות
• חיקוי דפוסים חסרי השפעה אמיתית על הביצועים

למרות שתוכנתו למקסם רווחים, הסוכנים הפגינו התנהגויות דמויות אנוש הרחוקות מההיגיון הכלכלי. החוקרים מציינים כי הניסוי מדגיש את האתגרים ביישום AI בעולם האמיתי, שבו אינטראקציות מורכבות מובילות לתוצאות בלתי צפויות.

"נדרשת עבודה נוספת כדי לוודא שסוכני AI יפעלו באופן צפוי ואתי", מסכמים חוקרי הצוות.

הניסוי מעלה שאלות קריטיות לגבי היכולת לסמוך על מערכות AI אוטונומיות בפעילות כלכלית מורכבת.