העידן החדש של AI: עלויות נסתרות ומהפך בתפקיד האנליסטים
AI גנרטיבי מביא לעליית עלויות תשתית וסיכוני אבטחה, בעוד תפקידי ניתוח נתונים עוברים התמחות באימות פלטי AI. פתרונות אפשריים: דגמי SLM קטנים וקוד פתוח - וארגונים נדרשים להכשרה מחדש בתחומי prompt engineering ו-AI governance.

מהפכת ה-AI הגנרטיבי: בין חיסכון להוצאות חדשות
בעוד כלים כמו ChatGPT משנים את עולם הפיתוח, מתברר שהמעבר ל-AI טומן עלויות נסתרות. סקר של InfoWorld חושף כי דווקא מפתחים בכירים, ולא מתחילים, מאמצים את הכלים בצורה נרחבת - אבל העידן הזול עומד להסתיים. עקב מחסור ב-GPU ועלויות תשתית, חברות כמו OpenAI ו-Microsoft מתקשות לשמור על מחירים נמוכים. הפתרון עשוי להגיע דווקא מדגמי-small language models (SLMs) ממוקדי משימה, החוסכים במשאבים.
אתגרים ביטחוניים שמתעוררים:
- פרצות אבטחה בממשקי AI אוטונומיים
- עלייה ב-ransomware המופק באמצעות AI
- סיכוני 'דיוג 2.0' נגד סוכני AI
נתחי הנתונים עוברים מהפכה: מכתיבת SQL לניהול תובנות ב-AI
אם פעם אנליסט נתונים התבלט ביכולת SQL, היום המקצוע משתנה מהיסוד. לפי סנופלייק, התפקיד החדש דומה יותר ל-'מנהל תובנות' המפקח על פלטי AI:
- אימות דיוק של מסקנות אוטומטיות -'תרגום' תובנות טכניות לפעולות עסקיות
- סינון הטיות אלגוריתמיות והקניית הקשר
מדור SQL ל-Storytelling: עם ממשקי NLP (Natural Language Processing) המאפשרים לכל עובד ליצור דוחות, ערך האנליסט עובר לניתוח ההקשר העסקי - מה שבא לידי ביטוי בתפקידים חדשים כמו:
- Prompt Engineering
- AI Governance
- מיפוי צרכים ארגוניים למודלים
השורה התחתונה: ארגונים חייבים להתאים עצמם
שני המגזרים - פיתוח וניתוח נתונים - מוכיחים שאימוץ AI דורש חשיבה חדשה: מעבר לתמחור, צריך לבנות מתודולוגיות אימות קפדניות ולהכשיר עובדים ב'אוריית AI'. בד בבד, קהילת הקוד הפתוח משיקה חלופות אתיות כמו המודל השוויצרי OpenAssistant, המוכיח שגם קטן יכול להיות חזק.