מבט לעתיד: כך בתי חולים מכינים את תשתיות ה-AI לעידן האחריות והרגולציה

בעוד שתחום ה-AI הרפואי מתפוצץ בחדשנות, בתי חולים ברחבי העולם מגלים שליישם אלגוריתמים חכמים זה החלק הקל – האתגר האמיתי הוא לשלוט בהם. דו"ח חדש של Black Book Research, "2026 Health System & Hospital AI Governance Resource Guide", מציב מראה לארגוני בריאות ומשרטט מפת דרכים ברורה לעידן שבו בינה מלאכותית חייבת להיות לא רק חכמה – אלא גם מפוקחת, שקופה, בטוחה ומשתלמת.

מה עומד מאחורי הדו"ח?

Black Book Research, חברת מודיעין שוק בריאות ותיקה שמבצעת סקרים בלתי תלויים בקרב אנשי מקצוע רבים בתחום, פרסמה מדריך גלובלי ראשון מסוגו לניהול AI ברמת דירקטוריון. הוא מיועד ל-Boards, מנכ"לים, CFOs, CIOs, CMIOs ומנהלי בתי חולים שמבינים ש"פיילוט מבריק" כבר לא מספיק, ורוצים להפוך פרויקטי AI ממופעי הדגמה מפוזרים לתשתית תפעולית אמינה ומבוססת ראיות.

המסר המרכזי: אנחנו נכנסים ל"עידן האחריות" של AI. התלהבות, שקופיות מרשימות של ספקים ו-PoC-ים חביבים לא מחליפים מנגנוני בקרה, הגדרת אחריות, ניהול סיכונים ויכולת למדוד ROI אמיתי.

פער מסוכן בין הייפ למציאות

הנתונים ש-Black Book מציגה חדים וברורים, ומסבירים למה כל כך הרבה יוזמות AI בבתי חולים נתקעות בדרך:

• כ-80% מהמנהלים מדווחים שקשה לאמת טענות של ספקי AI בלי תשתית ממשל (governance) רשמית.
• 70% חוו לפחות פיילוט AI אחד שכשל – בגלל קצוות מדידה חלשים, חוסר התאמה לזרימות עבודה קליניות או פערי נתונים.
• 68% אומרים ששוויון (equity) "מתוכנן" בשלבי הפיילוט – אבל בפועל כמעט לא נמדד.
• ב-60% מהחוזים אין סעיף רה-וולידציה בעת שינוי מהותי במודל או בנתונים.

ומצד שני, כשממשל קיים ומובנה – התמונה מתהפכת:

• מערכות בריאות עם AI Governance Council רשמי הן בעלות סבירות כפולה להגיע ל-ROI תוך 12 חודשים.
• פיילוטים שנבדקו במצב "shadow mode" (4–8 שבועות של הרצה במקביל, בלי להשפיע על החלטות בפועל) מצליחים לעבור הלאה בלי דגלי אזהרה פי 1.75 יותר.
• קריטריונים כתובים וברורים ל"שערי החלטה" בין שלבים מובילים ל-28% פחות גרירות אינסופיות של פיילוטים.
• כשיש דשבורדים ברורים והגדרת בעלות (ownership), זמן ההגעה ל-ROI מתקצר לכ-7.5 חודשים, לעומת 13.5 חודשים ללא ממשל פורמלי.
• פיילוטים עם בעלים מוגדר ו"kill switch" מתורגל – מכפילים את הסיכוי להסקלה מערכתית בתוך שנה.

עבור מנהלי מערכות בריאות (וכן, גם עבור קובעי מדיניות בישראל), המסר חד: בלי מסגרת ניהולית סדורה, AI הופך מסוכן עסקית, רפואית ואתית – ובעיקר לא צפוי.

המדריך: איך נראה ממשל AI בריא?

המדריך של Black Book לא נשאר ברמת סיסמאות. הוא מציע מודל תפעולי קונקרטי שנועד לענות על השאלות הכי פרקטיות: מי מחליט? על סמך אילו נתונים? באיזה שלב? ואיך עוצרים כשמשהו משתבש?

במרכז המודל כמה עקרונות:

1. "Three lines of defense"

   • הפרדה בין פיתוח/רכישה, בקרה וניהול סיכונים, וביקורת עצמאית.
   • מבטיח שלא אותו גוף שגם דוחף את המימוש הוא זה שמאשר לעצמו שהכול בסדר.

2. AI Governance Council (AIGC) חזק ומוסמך

   • צוות רב-תחומי (קליניקה, IT, נתונים, משפט, אתיקה, כספים) עם סמכות אמיתית:
     • לעצור או לפרוש אלגוריתמים.
     • לדרוש נתונים ולעקוב אחרי ביצועים, Bias, בטיחות.

3. ניהול סיכונים מדורג לפי השפעה קלינית

   • אלגוריתם שמציע תזכורת אדמיניסטרטיבית ≠ אלגוריתם שמסייע בהחלטה טיפולית קריטית.
   • ככל שההשפעה על המטופל גדולה יותר – כך נדרשות רמות בדיקה, ניטור ותיעוד מחמירות יותר.

4. בטיחות ושוויון כבר בשלב הפיילוט

   • Shadow testing, בדיקות רגישות לתת-אוכלוסיות, תרחישי Rollback ותרגול הפעלה של "kill switch".
   • המטרה: לזהות כשלים לפני שהמערכת פוגעת במטופלים או מייצרת עיוותים שיטתיים.

5. אחריות ספקים והסכמים מבוססי תוצאות

   • Due diligence מובנה: scorecards, חבילות ראיות, דרישה לשקיפות מתודולוגית.
   • SLAs מבוססי תוצאות: לא רק זמינות טכנית אלא גם ביצועים קליניים ומדדי איכות.
   • מנגנוני Re-validation בעת שינויי מודל, נתונים או רגולציה.

6. ניהול מחזור חיים מלא

   • Intake מסודר (מי יכול להציע יוזמת AI), ולידציה, הטמעה, ניטור שוטף והחלטות על עדכון או פרישה.
   • עם שקיפות פנימית מלאה – מאנשי הדירקטוריון ועד הצוותים בשטח.

רגולציה גלובלית: מפת מוכנות גם לישראל

הדו"ח מיישר קו עם מסגרות מובילות:

• EU AI Act האירופי.
• הנחיות ה-FDA בארה"ב (Good Machine Learning Practice).
• מסמך ה-WHO לאתיקה וממשל AI.
• עקרונות ה-OECD.

למערכות בריאות שפועלות בסביבה בינלאומית, או נשענות על פתרונות ענן ו-AI גלובליים, זהו יתרון ברור: מדריך שמספק "מפת דרכים" לחציית גבולות רגולטוריים בלי ליפול בין הכיסאות.

בהקשר הישראלי, שבו מספר בתי חולים כבר מריצים מודלים לחיזוי אשפוזים, עומסים, זיהוי הדמיות ו-clinical decision support, האימוץ של עקרונות כאלה יכול להבדיל בין מערכת שמיישמת AI כ"גימיק" לבין מערכת שמוכנה לדרישות רגולטוריות מחמירות שיגיעו, מקומית ובינלאומית.

למה זה חשוב למנהלים – לא רק ל-Data Scientists

אחד המסרים החזקים בדו"ח הוא שהשיח על AI צריך לעלות מדרג ה-IT והאנליטיקה לשולחן הדירקטוריון:

• Boards ו-CFOs מקבלים במסגרת המדריך כלים להגדיר תיאבון סיכון, קצב פיקוח וקריטריונים לקבלת ROI.
• CEOs ומנהלי בתי חולים יכולים לרכז אחריות תחת צוות Governance אחד, במקום אוסף פיילוטים מבודדים.
• CIOs ו-COOs מקבלים סט סטנדרטיזציות שמגן על עומס עבודה, אבטחת מידע ואמינות המערכות.

הנתונים מראים: מי שמטמיע Governance פורמלי לא רק מצמצם סיכונים, אלא גם מזרז החזר השקעה. AI מפוקח טוב יותר – עובד טוב יותר.

מסר לסצנת הבריאות והטק בישראל

לקוראים הישראלים – יזמים, מנהלי חדשנות, חוקרי AI רפואי – הדו"ח של Black Book הוא גם אזהרה וגם הזדמנות:

• אזהרה: פתרונות AI שאין סביבם מנגנון אחריות, שקיפות ובקרה צפויים להיתקל בחומות רגולטוריות, משפטיות ותדמיתיות.
• הזדמנות: סטנדרט גלובלי לממשל AI מאפשר לסטארט-אפים ולמערכות בריאות בישראל לבנות מוצרים ופרויקטים "ready for regulation" כבר מהיום.

או במילים פשוטות: בעידן שבו אלגוריתם יכול להציל חיים – או לסכן אותם – לא מספיק שהוא יעבוד. חייבים להוכיח שהוא נשלט.