84% מהמנהלים סומכים על AI שיכתוב דוח שנתי — בלי אישור אנושי

אז מה בעצם קרה כאן? דמיינו שאתם רואים דוח שנתי של חברה ציבורית, חתום על ידי רו״ח ומנכ״ל, אבל את המילים, המספרים והניתוחים כתב מודל בינה מלאכותית. בלי שאדם אחד עבר עליהם, תיקן או אישר. נשמע מטורף? סקר חדש של Workiva טוען ש-84% מהמנהלים מוכנים לפחות ״באופן כלשהו״ לסמוך על תרחיש כזה.

זו הייתה רק אחת מההצהרות המעניינות שעלו בכנס Amplify של החברה. אבל הסיפור האמיתי גדול יותר מסטטיסטיקה מפחידה. Workiva, חברת תוכנה ארגונית שמתמחה בדיווח פיננסי, ציות לרגולציה וקיימות, השיקה השבוע פלטפורמה חדשה בשם Agent Studio. המטרה: לתת לארגונים לבנות סוכני AI (AI agents) מותאמים אישית לעבודה על דוחות כספיים – אבל עם חגורות בטיחות קפדניות.

הבעיה: AI ״אמין״ מול ״נכון״

כולנו רגילים ל-AI שמסייע, שמציע הצעות, שמסכם. אבל בעולמות הפיננסיים, הביקורת והרגולציה, הדרישה אחרת לגמרי. פה, ״נשמע סביר״ לא מספיק. התוצאה חייבת להיות מדויקת, מוסברת וניתנת לשחזור. אם סוכן AI יזין מספר שגוי לדוח או ינתח מגמה בצורה מטעה, מי חתום על זה?

״כשחושבים על ה׳בוט׳ החדש הזה, ובמיוחד בסביבות רגולטוריות, זה לא באמת מספיק שהתשובה או הפעולה פשוט ׳נראות׳ הגיוניות״, מסבירה Krista Case, אנליסטית ראשית ב־theCUBE Research. ״אנחנו חייבים לוודא שניתן באמת להגן עליהן. מאיפה הגיע המידע הזה? מי אישר את הפעולה? אפשר לשחזר מה קרה אם סוכן AI עשה משהו בשמנו?״

המוצר: סטודיו לסוכנים עם ׳מבוגר אחראי׳

הפלטפורמה החדשה של Workiva, Agent Studio, נועדה בדיוק לפער הזה. היא מאפשרת לחברות ליצור סוכני AI ייעודיים למשימות כמו עריכת דוחות, ניתוח סיכונים או הכנת חומרים לרגולטורים. המפתח, לדברי החברה, הוא שסוכנים אלה אינם ״אוטונומיים״ במובן הרחב. הם פועלים במסגרת של משילות (governance) קפדנית.

Deepak Bharadwaj, סגן נשיא בכיר ומנהל מוצר ראשי ב־Workiva, מסביר את הלך הרוח: ״זה באמת קשור לפרופיל הסיכון של הלקוחות והמשתמשים שלנו. בגלל מי שאנחנו משרתים – בדיווח פיננסי, GRC וקיימות – מה שהם רוצים הוא שהעבודה שהם עושים תהיה אמינה, כי בסופו של דבר במקרים רבים מישהו חותם את שמו על זה.״

במילים אחרות, Agent Studio נבנה כך שכל תוצר של סוכן AI חייב לעבור אישור אנושי מוגדר. הפלטפורמה משלבת יכולת למעקב אחר ׳שושלת נתונים׳ (data lineage) – כלומר, מקור כל פיסת מידע שהסוכן השתמש בה – כדי שהבודקים והמנהלים יוכלו להבין את ההיגיון שעומד מאחורי כל מסקנה.

הנתון שמזעזע: ביטחון מנותק ממוכנות

הסקר ש-Workiva הציגה בכנס, שבו 84% מהמנהלים הבכירים הביעו נכונות לסמוך על דוח שנתי שנוצר על ידי AI ללא פיקוח אנושי, הוא מטריד במיוחד כי הוא חושף פער מסוכן. ״הדבר שהכי בלט לי היה סטטיסטיקה שהפתיעה אותי באופן משמעותי״, אמר Steve Soter, סגן נשיא ומנהל תעשייה ב־Workiva. ״זה ש-84% מהמנהלים אמרו שהם מוכנים לפחות ׳באופן כלשהו׳ לסמוך על AI שיכתוב דוח שנתי ללא סקירה אנושית.״

הפער הזה – בין ביטחון מופרז לבין מוכנות מבצעית אמיתית – הוא שמניע את העבודה של Workiva. לדברי החברה, רבים מהארגונים עדיין מתמודדים עם נתונים מפוזרים במערכות שונות (ERP, מערכות HR, מאגרי נתונים), מה שהופך את קבלת ההקשר המלא ל-AI למשימה קשה. ללא ׳נתונים מחוברים׳ (connected data), סוכן AI פועל מתוך תמונה חלקית ועשוי להסיק מסקנות שגויות.

שבריריות ׳שביל הנייר׳ האנושי

Josh Robinson, מבקר פנים ראשי בחברת Vast Space, תיאר בכנס אתגר עמוק יותר. לדבריו, צוותי ביקורת מגלים ש׳שביל הנייר׳ שהם הסתמכו עליו – אותו רישום של שיקול דעת אנושי, בדוא״ל, ב-Slack או בהערות בכתב יד – נעלם כאשר סוכני AI נכנסים לפעולה.

״עם בני אדם, יכולנו להבין שהם הפעילו שיקול דעת והעריכו הסתברויות, אבל יכולנו לראות את זה״, הסביר Robinson. ״היו הערות בכתב יד, סימוני ביקורת, שרשראות דוא״ל או הודעות Slack. כל זה הוסר מהמשוואה. אז עבורי, הסיכון טמון בלא־נודע.״

מה המשמעות עבור השוק?

עבור ענף ההיי-טק הישראלי, שבו חברות רבות עוסקות בפיתוח כלי AI, אוטומציה ותוכנות ארגוניות, המהלך של Workiva הוא איתות ברור. הגביע הקדוש אינו רק בניית AI חזק יותר, אלא בניית AI מהימן יותר – כזה שניתן להטמיע בתעשיות רגישות כמו פיננסים, בריאות או ביטחון.

ההשקה של Agent Studio מציבה רף: כדי שסוכני AI יוכלו לבצע משימות קריטיות באמת, הם צריכים לפעול בתוך מסגרת שקופה, עם בקרה אנושית ברורה ויכולת לנמק כל החלטה. בעולם שבו כולם רצים לשלב AI, המחיר של ׳לסמוך על זה שיהיה בסדר׳ עשוי להיות גבוה במיוחד.

אז בפעם הבאה שאתם קוראים דוח שנתי, ייתכן שמי שכתב אותו לא רק למד בפקולטה לכלכלה, אלא גם עבר קורס מזורז בלמידה עמוקה. השאלה הגדולה היא מי באמת בודק את העבודה שלו.