הדילמה של AI: זהירות מוגזמת או סיכון לפיגור טכנולוגי?
מומחי AI חלוקים לגבי הגישה הרצויה: באק הוג'ט, מממציאי Siri, קורא לחינוך ולמודעות לסיכוני AI כמו הטיות ופעולות בלתי הפיכות. יארז קוטילובסקי מ-DeepL מזהיר כי רגולציה אירופית מחמירה שעלולה לסכן את יכולת התחרות של אירופה במרוץ הגלובלי. הדילמה: איך לאזן בין סיכונים מיידיים לאיום קיומי של פיגור טכנולוגי.
סוכני AI: מהפכה ישנה בצורתה, חדשה בסכנותיה
בכנס Web Summit בליסבון, שנערך השבוע, בלטה נוכחותם של סוכני AI (Agentic AI) – טכנולוגיה המאפשרת לבינה מלאכותית לבצע משימות אוטונומיות כמו הזמנת טיסות או ניהול אינטראקציות עם לקוחות. למרות האופנה החדשה, מדובר במושג ותיק: באק הוג'ט, Chief AI Officer בקוגניזנט, חשף כי פיתח את הטכנולוגיה הבסיסית מאחורי Siri כבר בשנות ה־90.
"העובדה ש-Siri עצמה הייתה רב-סוכנית (multi-agentic) היא פרט שלא דיברנו עליו – אבל היא הייתה", הסביר הוג'ט בראיון ל־Sky News. "ראשון שדיבר על משהו כמו סוכן היה אלן טיורינג".
הסכנות המוגברות של סוכנים אוטונומיים
בעוד סוכני AI מבטיחים יעילות, הם טומנים בחובם סיכונים ייחודיים:
- הטיות נתונים: סוכן עלול לשנות מסד נתונים באופן שמכניס הטיות מערכתיות
- פעולות בלתי הפיכות: יכולתו לבצע שינויים בעולם האמיתי ללא התערבות אנושית
- הסתמכות יתר: משתמשים מקבלים החלטות מבוססות AI ללא אימות מספיק
דוח 2025 של IBM Responsible Technology Board מזהיר: "סוכני AI מציגים סיכונים חדשים... פעולה אחת עלולה להשפיע על העולם בדרכים בלתי הפיכות אם ההטיה תתפשט ללא גילוי".
הקריאה לחינוך – לא לפחד
הוג'ט טוען כי הבעיה האמיתית אינה הטכנולוגיה עצמה, אלא חוסר ההבנה של המשתמשים:
"אנשים סומכים יותר מדי על AI ולוקחים את תשובותיה כמובנות מאליהן מבלי לוודא שאינן הזיות... מוטל עלינו ללמוד את הגבולות – איפה אפשר לבטוח ואיפה לא – ולחנך גם את ילדינו".
אירופה בדרך לפיגור טכנולוגי?
בעוד אזהרותיו של הוג'ט תואמות את הגישה האירופית הזהירה, יארז קוטילובסקי, CEO של חברת ה-AI הגרמנית DeepL, מטיל ספק בגישה זו. עם כניסת ה-AI Act האירופי לתוקף השנה, הוא מזהיר מהשלכות כלכליות חמורות:
"קל מדי להתמקד בסיכונים הנראים לעין, אך הסיכון האמיתי הוא מה שנפסיד אם לא נאמץ את הטכנולוגיה... אירופה עלולה להישאר מאחור במרוץ ה-AI".
קוטילובסקי מצביע על פרדוקס מרכזי:
- קצב ההתקדמות הטכנולוגית בלתי ניתן לעצירה
- מדינות שיאמצו AI ייהנו מקפיצות פרודוקטיביות
- אירופה עלולה לגלות את הפיגור רק כאשר הפער הכלכלי יהיה בלתי ניתן לגישור
"השאלה איננה אם להאט את החדשנות, אלא איך לאמץ את הטכנולוגיה בצורה פרגמטית", הוא קובע.
המתיחות הרגולטורית
המצב הרגולטורי מחדד את הדילמה:
- באיחוד האירופי: תקנות AI Act מחמירות
- בבריטניה: היעדר מדיניות ברורה תוך הסתמכות על GDPR
- בארה"ב: גישת "regulation-lite" שתומכת בחדשנות
האם הסיכון האמיתי הוא דווקא בהימנעות?
וקוטילובסקי טוען כי האובססיה לסיכונים מיידיים מסתירה איום קיומי גדול יותר: איבוד הרלוונטיות הטכנולוגית של אירופה. לדבריו, משבר כלכלי עתידי עלול לנבוע דווקא מ:
- אי ניצול הזדמנויות לשיפור פרודוקטיביות
- בריחת מוחות למרכזי AI אחרים
- תלות במעצמות טכנולוגיות זרות
האתגר, לפי שני המומחים, הוא למצוא את האיזון: לאפשר חדשנות תוך התמודדות עם סיכונים אמיתיים – ולא דמיוניים. בעוד הוג'ט מדגיש חינוך והבנה, קוטילובסקי קורא לגישה פרגמטית שתמנע את הפיכתה של אירופה למוזיאון טכנולוגי.