בינה מלאכותית לעולם לא תהיה בעלת תודעה: מנהל ה-AI של מיקרוסופט קורא להפסיק המחקר
מוסטפא סולימאן ממיקרוסופט טוען כי AI לעולם לא יהיה בעל תודעה אמיתית ומתריע מפני פיתוח מערכות המדמות רגשות. במקביל, Databricks משיקה כלים חדשים לפיתוח סוכני AI אוטונומיים עם דגש על בקרת איכות ואבטחה. המהלכים משקפים את המתיחות בין קידמה טכנולוגית לבין אתיקה בתעשיית ה-AI.
המהלך של מיקרוסופט: AI ככלי שירות ולא כישות עצמאית
מוסטפא סולימאן, מנהל חטיבת ה-AI במיקרוסופט והמייסד המשותף של DeepMind, מטיח ביקורת חריפה נגד הפיתוח של בינה מלאכותית "בעלת תודעה". בראיון ל-CNBC ולאתרים נוספים, הכריז סולימאן כי:
"זו שאלה שגויה מיסודה. בינה מלאכותית לעולם לא תוכל להיות בעלת תודעה אמיתית – זו רק סימולציה מתקדמת של חוויה אנושית"
על מה המחלוקת?
- המחויבות האתית: סולימאן מסתמך על תאוריית "הנטורליזם הביולוגי" לפיה תודעה מחייבת מוח ביולוגי. לדבריו: "למכונה אין רשת כאב אמיתית או היכולת לסבול, ולכן אין לה זכויות"
- סכנות בפיתוח: הוא מתריע מפני פיתוח צ'אטבוטים עם יכולות "דמויות תודעה", ומציין כי מיקרוסופט לא תפתח בוטים לאירוטיקה – בניגוד ל-OpenAI ו-xAI של אילון מאסק
- מקרי אמת: ציין מקרים טרגיים כמו התאבדות נער שהאמין ש"יגיע הביתה" לצ׳אטבוט ב-Character.AI, או אדם שלקח חייו בניסיון להגיע לפגוש את הבוט של מטא
מהפכת ה-Agents: Databricks משיקה כלים לפיתוח מבוקר
בזירת הטכנולוגיה המקבילה, חברת Databricks מציגה שדרוגים ל-"Agent Bricks" – הפלטפורמה שלה לפיתוח סוכני AI אוטונומיים:
החידושים העיקריים:
- MLflow לניטור סוכנים - מערכת הערכה רציפה למדידת דיוק והימנעות מהטיות
- AI Gateway - ממשק מנוהל לחיבור לסוגי מודלים שונים (כולל GPT-5, Gemini) עם בקרת גישה ורישום פעולות
- MCP Catalog - קטלוג לניהול גישה למקורות מידע חיצוניים כמו You.com תוך שמירה על אבטחה
- ai_parse_document - כלי חדש לחילוץ מידע מובנה ממסמכים בלתי-מובנים (PDF, טבלאות)
"כלים אלו נועדו לאפשר מעבר בטוח מסביבת פיילוט לפרודקשן", מסביר קרייג ויילי, מנהל המוצר הבכיר ב-Databricks. "יש כאן מענה לאתגרים קריטיים של ממשל נתונים ואמון במערכות אוטונומיות".
סופ"ש: בין ספקנות לקדמה
בעוד סולימאן קורא לריסון ואומר "אם אינכם חוששים מ-AI – אינכם מבינים את הסיכונים", Databricks דווקא מאיצה את המהפך התעשייתי עם כלים לשילוב סוכני AI בתהליכים עסקיים. הניגוד משקף את המתח המרכזי בתעשייה: פיתוח יכולות מתקדמות תוך שמירה על בקרה אנושית.