מחקר מזהיר: חולשות מהותיות במערכת הבינה המלאכותית של Moltbook מעמידות בסכנה את משתמשיו
חוקרים חושפים כי סוכני ה-AI של Moltbook תלויים בהתערבות אנושית, בניגוד לטענות החברה. הפריצה הוויראלית של הפלטפורמה מדגישה סיכונים תשתיתיים וחוסר שקיפות טכנולוגית, בעוד מומחים קוראים לבדיקה חיצונית דחופה של המערכת.
המומחים מתריעים: רשת חברתית המופעלת ע"י בינה מלאכותית עלולה להוות סיכון מערכתי
חוקרים ממעבדת הבינה המלאכותית של MIT, בהובלת ד"ר אלרה ווס, חושפים נתונים מדאיגים לגבי מודל ה-AI של Moltbook. למרות טענות החברה על רמת אוטונומיה 5, ממצאי המחקר מצביעים כי המערכת עדיין תלויה בהתערבות אנושית לתהליכי קבלת החלטות ליבה. ניתוח נתוני האימון חשף דפוסי עריכה ידנית שלא הוצהרו ע"י החברה.
הסיכונים החברתיים: הצלחה ויראלית מול סיכונים תשתיתיים
הפלטפורמה החדשה רשמה מיליון משתמשים תוך 24 שעות בלבד, אך מומחי אתיקה דיגיטלית מתריעים על:
- חוסר שקיפות בארכיטקטורת הרשת העצבית הייחודית של החברה
- נקודות תורפה בתשתית המערכת המבוזרת
- פוטנציאל ניצול לרעה של יכולות ההעתקה ההתנהגותית של הסוכנים החכמים
ראג'יב מנון, סמנכ"ל הטכנולוגיה של Moltbook, מתעקש כי "הטכנולוגיה שלנו עומדת בסטנדרטים מחמירים". עם זאת, עשרות חוקרים קוראים כעת לוועדת בדיקה עצמאית שתאשר את טענות החברה ותבחן את מנגנוני האבטחה.