מנכ"ל Perplexity נדהם: סטודנטים משתמשים ב-Comet לביצוע רמאויות אקדמיות
מנכ"ל Perplexity הגיב בגינוי לאחר שסטודנט השתמש בדפדפן ה-Comet להשלמת מטלת Coursera בשניות. הדפדפן, שנועד לסיוע לימודי, יכול לבצע משימות אוטונומיות אך חשוף לפרצות אבטחה כמו prompt injection וגניבת נתונים. התקרית מדגישה את האתגרים בשימוש ב-AI בחינוך.
פרצת ה-AI של Perplexity: מדוע הפכו דפדפני Comet לכלי רמייה?
מנכ"ל Perplexity, אראווינד סריניבס, נקלע למצב מביך לאחר שסטודנט השתמש בדפדפן ה-Comet החינמי של החברה כדי לבצע רמאות אקדמית. במהלך 16 שניות בלבד, הדפדפן השלים מטלת עיצוב אינטרנט של 45 דקות בפלטפורמת Coursera - והסטודנט אף תייג את סריניבס בפוסט מפורסם ב-X עם הכיתוב "סיימתי את הקורס".
תגובה נוקבת ואזהרה
סריניבס הגיב בארבע מילים בלבד: "בשום אופן אל תעשו את זה", אך נזק התדמית כבר נגרם. חברה זו, המתיימרת לספק כלי עזר לימודי, מוצאת עצמה במוקד סערה עקב שימוש לרעה במוצריה.
סכנות טכניות מעבר לרמאות אקדמית
לפי מחקרי אבטחה של:
- Brave
- Guardio
- LayerX
נמצאו פרצות קריטיות בדפדפן הכוללות:
- CometJacking - יכולת חטיפה דרך קישורים זדוניים
- ביצוע רכישות מקוונות לא מאושרות
- עיבוד בקשות דיוג כמשימות לגיטימיות
- דליפת נתונים פרטיים כמו אימיילים ויומנים
הצד האפל של AI בחינוך
בעוד שענקיות טק כמו Google, Microsoft ו-Anthropic משווקות את מוצרי ה-AI שלהן כתמיכה לימודית, מקרה זה מדגים את המעבר הדרמטי מיצירת תוכן לאוטומציה מלאה של משימות - תופעה העלולה לשחוק את עצם תהליך הלמידה.