ה-AI הרפואי המציא למטופלת שימוש בפטריות פסיכדליות
Rebecca Green הסכימה לתמלול AI של פגישת אורולוגיה, אך המערכת הוסיפה לתיק הרפואי שלה טענה שקרית וחמורה: שהיא עושה מיקרודוזינג של פטריות פסיכדליות. הסיפור המדאיג הזה מתפרסם על רקע צמיחה מהירה בשימוש בכלים כאלה — 40% מרופאי המשפחה באוסטרליה משתמשים כעת בקביעות במתעדי AI. מומחים מתריעים כי ״הזיות״ של מודלי AI רפואיים עלולות לשנות החלטות קליניות ולפגוע באמון המטופלים.
תתארו לעצמכם שאתם מגיעים לרופא, מסכימים לתמלול AI כדי לזרז את התהליך, ואז מגלים שהמערכת ״הסיקה״ שאתם צורכים סמים לא חוקיים. זה בדיוק מה שקרה ל-Rebecca Green, ולמקרה הזה יש השלכות על כל מי ששוקל או כבר משתמש בכלי AI במערכת הבריאות.
מה קרה בפגישה?
Rebecca Green הגיעה לביקור ראשון אצל אורולוגית באוסטרליה והסכימה לתמלול AI של השיחה. לטענתה, היא לא רצתה להוות נטל או ״להסתבך״ עם הרופאה. מאוחר יותר, אחרי ניתוח להוצאת אבנים בכליות, היא קראה מכתב שנשלח לרופא המשפחה שלה. להפתעתה, המכתב ציין שהיא עושה ״מיקרודוזינג״ של פטריות פסיכדליות, ושהדבר עלול להסביר דימום קודם באזור הכליות.
״הייתי המומה ובכיתי. מעולם לא השתמשתי בפטריות״, סיפרה Green. עבור מטופלת שקיבלה באותה עת פיצויים בגין פגיעה בעבודה, שקר כזה בתיק הרפואי היה מפחיד במיוחד, משום שחששה שהאזכור עלול לפגוע בתביעתה.
ה-AI ״הזָה״ — והרופא לא ראה?
Green הבחינה בשגיאה רק בדיעבד. מהתלונה שלה התברר שהרופאה לא בדקה את הפלט של מערכת ה-AI לפני ששלחה את המכתב. גוף הרגולציה הרפואי AHPRA באוסטרליה מבהיר: על רופאים לבדוק תמיד את הפלט של AI כדי לעמוד בסטנדרטים מקצועיים.
בעקבות ההתנצלות של האורולוגית, נשלח ל-Green מכתב התנצלות. הרופאה הודתה כי ״מתייחסת ברצינות לדיוק התיעוד״, אך לא הצליחה לקבוע איך הטענה על הפטריות נכנסה למסמך. היא הבטיחה לבחון מחדש את השימוש ב-AI במרפאה, אך לא מסרה על שינויים מוחשיים.
מהם ״מתעדי AI״ ולמה הם כאן?
מערכות אלו, שמכונות AI Scribes, מאזינות לשיחה בין רופא למטופל, מתמללות אותה ומייצרות מסמך רפואי מובנה — סיכום ביקור או מכתב הפניה. היתרון ברור: הרופא יכול להקדיש פחות זמן להקלדה ויותר תשומת לב למטופל.
האימוץ מתרחש בסערה. סקר של הקולג׳ המלכותי האוסטרלי לרופאי משפחה בנובמבר 2025 הראה ש-40% מהרופאים משתמשים בקביעות במתעדי AI, לעומת 22% בסקר קודם. מחקר שפורסם ב-JAMA Network Open, שכלל 263 רופאים בארה״ב, מצא שבתוך 30 יום שיעור השחיקה המדווח ירד מ-51.9% ל-38.8%. המשתתפים דיווחו על ירידה בעומס הקוגניטיבי ועל יכולת טובה יותר להתמקד במטופלים. עם זאת, מדובר במחקר תצפיתי ללא קבוצת ביקורת, שנסמך בחלקו על דיווח עצמי.
סיכוני ה״הזיות״: לא רק פטריות
לצד היתרונות, המערכות עלולות ״להזות״ — להוסיף פרטים שקריים, לבלבל בין מונחים רפואיים או לייחס דברים לדובר הלא נכון. דוח שפרסם ביולי ארגון זכויות הפרט Digital Rights Watch (DRW) כלל דוגמאות מזעזעות: מקרה שבו מתעד AI רשם שהממצא נמצא בשד הלא נכון באבחון סרטן השד, ועוד מקרה שבו ייחס למטופל אפילפסיה שאין לו.
מנכ״לית ארגון הצרכנים Elizabeth Deveny ציינה שמדובר במקרים חוזרים ונשנים שבהם מערכות AI מבלבלות מילים, ושהמטופלים מגלים את הטעויות רק במקרה. ״אנשים מתוסכלים מהצורך למצוא את מקור הטעות ולתקן את הרשומה״, אמרה.
ההשלכות: אמון ודיוק
המקרה של Green מדגיש שתי בעיות מרכזיות:
- דיוק רפואי: טעות AI בתיק הרפואי עלולה להשפיע על רצף הטיפול, על אבחונים עתידיים ואף על ביטוח או תביעות משפטיות.
- אמון המטופלים: Green תיארה את הטיפול כמנוכר ולא אישי. במיוחד במצבים רפואיים רגישים, מטופלים סומכים על כך שהרופא ״מכיר״ את ההיסטוריה שלהם.
למי האחריות?
הרגולטור AHPRA מבהיר: הרופא האחראי הוא תמיד האחרון שחותם על הפלט. האחריות לבדוק ולתקף את פלט ה-AI מוטלת כולה על כתפיו. עם זאת, התרבות הארגונית לא תמיד מותירה זמן לכך, ורופאים עשויים לסמוך יותר מדי על הטכנולוגיה.
מחקר חדש בוחן את התופעה של רופאים ש״מהמרים״ על דיוק ה-AI. חלקם טוענים שהמערכות ״טובות די הצורך״, אך מקרים כמו זה של Green מוכיחים שזה לא מספיק.
עתיד ה-AI הרפואי?
אין ספק ש-AI יכול לשמש כלי עוצמתי להפחתת העומס המנהלי במערכת שהיא כבר עמוסה. אבל האירוע הזה, ואחרים, מראים שהטכנולוגיה זקוקה לשכבת בדיקה אנושית חזקה, להכשרה מתאימה של רופאים ולרגולציה שקופה.
בינתיים, אם אתם מטופלים, שווה לשאול בפגישה הבאה: ״האם נעשה שימוש ב-AI לתמלול?״ ורופאים — בדקו כל פלט, אפילו אם המערכת נראית מושלמת.
כי בסוף, גם AI צריך בדיקה אנושית אחרונה — אחרת, מטופלות עלולות להפוך בטעות ל״צרכניות פטריות״ ברשומה הרפואית שלהן.