מנכ"ל הבינה המלאכותית של מיקרוסופט: 'תפסיקו להתייחס ל-AI כאילו הוא אנושי'
מוסטפא סולימאן, מנכ"ל AI במיקרוסופט, מזהיר במאמר חדש מפני הסכנות בייחוס תכונות אנושיות לבינה מלאכותית. הוא קורא להפסיק את המרוץ ליצירת AI "בעל תודעה", ומתמקד בשלושה סיכונים עיקריים: כשלי בטיחות, ציפיות לא ריאליות והסחת משאבים מפיתוחים חשובים. הפתרון: פיתוח כלים מעשיים עם בקרות ושקיפות מלאה.
אזהרה מהמנכ"ל: למה מסוכן לייחס תודעה לבינה מלאכותית
במאמר אישי שפורסם אתמול (23.8.25), מוסטפא סולימאן, מנכ"ל תחום הבינה המלאכותית של מיקרוסופט, יוצא נגד המגמה להאניש מערכות AI. לטענתו, החיפוש אחר "בינה מלאכותית עם תודעה לכאורה" מהווה סכנה ממשית ועלול להוביל לציפיות לא ריאליות מהטכנולוגיה.
סולימאן מסביר כי הנטייה האנושית לייחס תכונות אנושיות ל-AI "מבלבלת בין יכולות טכניות לבין תודעה אמיתית". הוא מציין שלוש נקודות מדאיגות:
- סיכוני בטיחות - ראיית AI כ"ישות" עלולה לגרום להאצת פיתוח מערכות ללא בקרות מספקות
- ציפיות מוטעות - חוסר הבנה של יכולות AI אמיתיות עלול להוביל לאכזבות ותלות מסוכנת
- הסחת משאבים - מירוץ ליצירת AI "אנושי" מסיט משאבים מפיתוח כלים מעשיים ויעילים
"יש להתייחס לבינה מלאכותית כאל כלי מתוחכם - לא כתחליף לאדם או כישות עצמאית"
לטענת המנכ"ל, הדגש צריך להיות על פיתוח AI אחראי ש:
- משפר יכולות אנושיות
- עובד בשקיפות מלאה
- כולל מנגנוני בקרה ספציפיים
האזהרה מגיעה בתקופה של התקדמות מהירה במודלי שפה גדולים (LLMs), כשגם בכירים אחרים בתעשייה קוראים לגישה זהירה יותר.