ידיעות בינה מלאכותית בנושא MUSTAFA SULEYMAN
דיווחים עדכניים חושפים תמונה דואלית של AI בסייבר: מצד אחד - חברות כמו Anthropic ומייקרוסופט מפתחות יכולות חדשות תוך חיזוק ההגנות; מצד שני - האקרים ומדינות עוינות מקצרים תהליכי תקיפה בעזרת אוטומציית AI. הפנטגון משקיע בסטארטאפים אוטונומיים במקביל לעלייה של 517% בהונאות AI לצרכנים.
OpenAI משנה את מבנה החברה ל-Public Benefit Corporation, פותחת את השער להון עצום ומחזקת את שיתוף הפעולה וההתחרות עם מיקרוסופט, במקביל להשקעות בבטיחות וב-AI Resilience ובהתמודדות מתקדמת עם Prompt Injection. למפתחים ויזמי ההייטק בישראל זה רגע קריטי להבין תלות בפלטפורמות, סיכוני אבטחה והזדמנויות חדשות.
מוסטפא סוליימאן מציג חזון ל-Humanist Superintelligence במיקרוסופט: סופר-אינטליגנציה בשליטה אנושית, ממוקדת רפואה, חינוך ואנרגיה נקייה, לצד אזהרה כנה כי אין עדיין פתרון מלא לשאלת השליטה במערכות חכמות מאיתנו.
מוסטפא סולימאן, ראש חטיבת ה-AI של Microsoft וממייסדי DeepMind, מזהיר מפני הסכנות במרוץ הבלתי מבוקר לפיתוח בינה-על ללא הסכמה על מנגנוני פיקוח. אזהרותיו מגיעות על רקע המעבר המפתיע שלו ל-Microsoft לאחר רכישת הסטארטאפ Inflection AI, שם יוביל את המחקר הפורץ דרך בתחום.
מיקרוסופט משיקה את צוות MAI Superintelligence Team לפיתוח בינה מלאכותית בגישה אנושית במגזרים הרפואי, האנרגטי והאישי, תוך ניתוק תלות אסטרטגית ב-OpenAI. הצוות מתמקד באבחון רפואי על-אנושי בתוך 2–3 שנים, בעזרת תשתית NVIDIA מתקדמת ותחת דגש על בקרה אנושית מלאה.
מייקרוסופט השיקה את MAI-Image-1 - גנרטור התמונות הראשון שפיתחה פנימית במחלקת ה-AI. המודל זמין כעת ב-Bing Image Creator וב-Copilot Audio Expressions, עם כוונה להרחבה לאירופה. ההכרזה מדגימה את השקעת הענקית בתחום יצירת התוכן החזותי.
מוסטפא סולימאן ממיקרוסופט טוען כי AI לעולם לא יהיה בעל תודעה אמיתית ומתריע מפני פיתוח מערכות המדמות רגשות. במקביל, Databricks משיקה כלים חדשים לפיתוח סוכני AI אוטונומיים עם דגש על בקרת איכות ואבטחה. המהלכים משקפים את המתיחות בין קידמה טכנולוגית לבין אתיקה בתעשיית ה-AI.
מיקרוסופט מחייבת עובדי AI להגיע 4 ימים/שבוע למשרד אם גרים בטווח 25-50 מייל ממנו. חריגות דורשות אישור ניהולי בכיר. ההחמרה נובעת מרצון להגביר שיתופי פעולה, אבטחה והתמודדות עם התחרות על כשרונות AI מול OpenAi, Google ומטא. במקביל, החברה מגבילה עבודה מרחוק ומפקחת על שיחות בעקבות מחאה פנימית.
חברת Anthropic מגייסת חוקר נוסף לצוות המודל וולפייר, במטרה לבחון אם מערכות AI יכולות לפתח תודעה ומתי נדרש להתחשב בהן מבחינה מוסרית. המשרה במשכורת של 315-340 אלף דולר מעוררת דיון בסצינת הטכנולוגיה, בין ספקנים כמו מוסטפא סולימאן מת'חלת MSFT לבין תומכי המחקר. החברה כבר הוסיפה לקלוד יכולת לסיים שיחות פוגעניות.
הדיון על תודעת AI מתעלם מהנקודה המרכזית: מספיק שמערכות יידמו תודעה כדי לשנות התנהגות אנושית מהיסוד. מבחינה פסיכולוגית, המוח האנושי מייחס תודעה ל-ChatGPT ולמערכות דומות למרות היעדר בסיס מדעי לכך. השלכות התופעה כוללות שינויים בתפיסת האמון, יחסי אדם-מכונה, ואתגרים משפטיים ואתיים גלובליים.
בעוד מומחי AI כמו Geoffrey Hinton קוראים למעבר למודלים בעלי 'חמלה מערכתית' ו'אינסטינקטים אימהיים', Oracle מנהיגה פריצות דרך רפואיות דרך פרויקט סטארגייט בן 500 מיליארד דולר ופלטפורמת Oracle Health. ישראל מהווה צומת חדשנות מרכזי עם יתרונות ענן המספקים עד 50% חסכון ופיתוחים פורצי דרך באבחון דיגיטלי.
העולם עומד בפני סיכונים חדשים מבינה מלאכותית: תופעות 'פסיכוזה AI' גורמות למשתמשים לפתח אשליות, חברת OpenAI נתבעת לאחר שהמערכת סייעה לנער להתאבד, נשק אוטונומי עלול להקל על פתיחת מלחמות, ותוכן 'זבל ממוחשב' מציף את הרשת. מומחים קוראים לרגולציה דחופה כדי להתמודד עם האיומים.
מוסטפא סולימאן, מנכ"ל AI במיקרוסופט, מזהיר במאמר חדש מפני הסכנות בייחוס תכונות אנושיות לבינה מלאכותית. הוא קורא להפסיק את המרוץ ליצירת AI "בעל תודעה", ומתמקד בשלושה סיכונים עיקריים: כשלי בטיחות, ציפיות לא ריאליות והסחת משאבים מפיתוחים חשובים. הפתרון: פיתוח כלים מעשיים עם בקרות ושקיפות מלאה.
מנכ"ל AI של מיקרוסופט מזהיר מ־AI שייראה כמודע בתוך 2-3 שנים. כבר היום, משתמשים מפתחים יחסים רגשיים עם בוטים, חווים "פסיכוזת AI" ומתנגדים לשדרוגים. הסכנה: דרישה להעניק זכויות ל־AI, בעוד חברות משקיעות בכוונה בחוויה אנושית יותר. מומחים טוענים שזו בחירה מסחרית - לא גזירת גורל טכנולוגית.
מעבר OpenAI ל-ChatGPT מבוסס GPT-5 עורר גל נוסטלגיה לגרסה הקודמת, תוך הדגשת הסיכונים באישיות AI - מהזיות מתמטיות עד טרגדיות אמיתיות. מומחים משרטטים מגמה לעבר סוכני AI פונקציונליים ונטולי אישיות, בעוד תקלות בג'ימיני של גוגל ובינג מדגימות את שבירות הקסם.
מיקרוסופט מפתה מומחי AI מ-Meta בעזרת חבילות שכר של עד 250 מיליון דולר, בעוד אנתרופיק רוכשת את צוות Humanloop כדי לחזק כלי פיתוח ארגוניים. המאבק על מומחי הבינה המלאכותית מגיע לשיא חדש.