Doctronic ביוטה: צ'אטבוט AI מחדש מרשמים

מה קרה כאן בעצם?

יוטה שינתה את כללי המשחק בלי הודעה מוקדמת. בינואר האחרון השיקה המדינה פיילוט שמאפשר לתושבים לחדש מרשמים רפואיים אונליין — באמצעות צ'אטבוט AI בשם Doctronic. בלי ביקור אצל רופא, בלי המתנה בתור, בלי מרפאה. נשמע נוח? אולי. אבל הפיילוט הזה הצית עכשיו ויכוח סוער בארה"ב על השאלה שהכי מפחידה את עולם הרפואה הדיגיטלית: האם בינה מלאכותית מוכנה להחליף רופאים?

התשובה, לפחות לפי חלק גדול מקהילת הרפואה האמריקאית, היא עדיין לא. ובטח לא ככה.

איך Doctronic עובד?

תושבי יוטה נכנסים לאתר ייעודי של Doctronic, מאמתים זהות, ואז מנהלים שיחה עם צ'אטבוט. ה-AI שואל על ההיסטוריה הרפואית ועל המרשמים הקיימים, בודק את הפרטים מול מאגר ארצי של בתי מרקחת — ואם הכול נראה תקין, מחדש את המרשם ושולח אותו ישירות לבית המרקחת המקומי. אם יש סימן שאלה, הצ'אטבוט מעביר את המטופל לרופא אנושי מטעם שירותי הטלמדיסין של החברה.

נכון להיום, Doctronic מטפלת ברשימה של 190 תרופות שניתן לחדש. בשלב הפיילוט הנוכחי רופאים אנושיים עדיין בודקים כל הזמנת חידוש — אבל החברה מתכננת לעבור בקרוב לחידוש אוטומטי מלא.

המייסד-שותף, ד"ר אדם אסקוביץ', מדבר על עתיד שבו משימות רפואיות שגרתיות — כולל הזמנת בדיקות וניתוח תוצאות — יעברו ל-AI, מה שיאפשר לרופאים לנהל אלפי מטופלים במקום מאות.

"אמרו לנו שאין לנו מה להגיד"

אז איך פיילוט כזה קרה בלי שאף גוף רפואי ידע? התשובה טמונה במנגנון רגולטורי ייחודי ביוטה שנקרא "ארגז חול רגולטורי" (regulatory sandbox). המנגנון מאפשר למדינה לחוקק פטורים זמניים מחוקי הרישוי הרפואי לחברות AI שמציגות טכנולוגיה מבטיחה. Doctronic קפצה על ההזדמנות.

ומי מפקח על הפיילוט? לא משרד הבריאות ואפילו לא רופא — מדובר בדירקטוריון של חמישה מומחי AI, ואף אחד מהם לא רופא. חברי מועצת הרישוי הרפואית של יוטה, הגוף שאחראי על רישוי רופאים במדינה, גילו על הפיילוט רק כשקראו על כך בחדשות. במרץ, 11 חברי מועצה חתמו על מכתב למדינה בדרישה לעצור את התוכנית.

"אמרו לנו בעצם: 'כן, זה קורה. ולא, אין לכם מה להגיד בעניין,'" אמר ד"ר אלן סמית', רופא משפחה שעומד בראש המועצה. לדבריו, הוא מדבר רק בשם עצמו.

ד"ר אריק ברסמן מאוניברסיטת פנסילבניה ניסח את זה בצורה חריפה יותר: "חצינו סף — נתנו למשהו שאינו אנושי רישיון רפואי, בין אם נרצה לקרוא לזה ככה ובין אם לא."

התרופות שמסכנות חיים

החשש המרכזי של הרופאים הוא בטיחותי. ד"ר סמית' מציין שהרשימה של Doctronic כוללת תרופות מדללות דם — שבמצבים כמו כיב קיבה או דימום פנימי עלולות להפוך למסוכנות מאוד.

"כשאני רואה מטופלים אחרי חצי שנה, פעמים רבות אני מגלה שההיסטוריה הרפואית שלהם השתנתה," אמר. "עצם העובדה שמשהו נרשם בעבר לא אומר שהוא מתאים עכשיו."

גם ההסתדרות הרפואית האמריקאית (AMA) הצטרפה לאזהרות, והבהירה ש"חידוש מרשמים הוא לא רשימת בדיקה שגרתית."

בתגובה לחששות, כמה תרופות הוסרו מהרשימה — כולל תרופה להפרעות קצב לב. זאק בוייד, ראש משרד ה-AI של יוטה, אמר ש-Doctronic הייתה דווקא זהירה מדי בשלב הפיילוט, ופעמים רבות העבירה לרופאים אנושיים החלטות שלא היו באמת דורשות את ההתערבות שלהם.

הנתונים החסרים

ותהיה אחת גדולה: איפה הנתונים? נכון לעכשיו, הפרסום היחיד על הטכנולוגיה של Doctronic הוא מאמר שכתבו מדעני החברה — ולא עבר ביקורת עמיתים עצמאית. המחקר בדק את היכולת של ה-AI לאבחן מחלות בהתבסס על 500 ייעוצי טלמדיסין, ומצא שהאבחנות של Doctronic תאמו את אלו של רופאים אנושיים ב-80% מהמקרים.

80% נשמע מרשים? תחשבו על זה כך: אחד מכל חמישה מקרים לא תואם. ברפואה, זה פער שיכול לעלות בחיי אדם.

Doctronic מתכננת לפרסם מחקרים עם ביקורת עמיתים עד סוף השנה. ברסמן טוען שיוטה הייתה צריכה לדרוש את הנתונים האלה מראש — לפני העלייה לאוויר.

"בעיקרון הם מקבלים את המילה של החברה בתום לב, שהיא מסוגלת לעמוד במשימה," אמר.

ה-FDA מעדיף להישאר בצד

ומה עם ה-FDA, הרגולטור הפדרלי שאחראי על מכשור רפואי? ובכן, הוא מעדיף לא להתערב — בינתיים. דובר ה-FDA הודיע שהסוכנות לא אישרה צ'אטבוטי AI רפואיים, אבל "מחויבת לעודד חדשנות רפואית ולייעל את הגעת הטכנולוגיות למטופלים, תוך שמירה על בטיחות במרכז כל החלטה."

Doctronic, מצדה, התחמקה מלהגיד אם בכלל פנתה ל-FDA. "המטרה שלנו היא לפגוש מטופלים היכן שהם צריכים שירותי בריאות," אמר אסקוביץ'. "אנחנו מנסים לא להיכנס לעומק הצד הרגולטורי."

זה מותיר ואקום מסוכן: טכנולוגיה רפואית אמורה להיות מוסדרת פדרלית, אבל אנשי מקצוע רפואיים מוסדרים ברמת המדינות. Doctronic טוענת שה-AI שלה חלק מהפרקטיקה הרפואית המוסדרת במדינות — אבל מומחים רבים חושבים שהיא חצתה את הקו שה-FDA צריך לפקח עליו.

גל של מדינות מצטרפות

יוטה לא לבד. טקסס וויומינג כבר מעניקות פטורים דומים ל-AI רפואי. באיווה, איידהו ומדינות אחרות הוגשו הצעות חוק לרישוי פורמלי של שירותי רפואת AI. רבות מההצעות מבוססות על תבנית ממכון Cicero, צ'ינק-טנק פרו-AI שיוסד על ידי ג'ו לונסדייל, שותף-מייסד של חברת התוכנה Palantir.

אדם מאייר, מנהל מדיניות הבריאות ב-Cicero, טוען שההתנגדות ל-AI רפואי נובעת בעיקר מחששות כלכליים של רופאים. "הראשון שיעשה את זה יספוג את האש — כי יש אינטרסים כלכליים, חששות לגבי כוח העבודה ומה זה יעשה למשרות."

מה הלאה?

דניאל ארון, מומחה למשפט רפואי מאוניברסיטת יוטה, מזהיר שחברות כמו Doctronic עשויות להרוויח בטווח הקצר — אבל לשלם מחיר כבד בטווח הארוך. "חברות עשויות להרוויח בטווח הקצר על ידי הרחבת מודלים עסקיים וקידום הטכנולוגיה מעבר לראיות," אמר. "אבל בטווח הארוך, הן מסתכנות בפגיעה באמון הציבור ובהצתת התנגדות."

וכרגע אף אחד לא עוצר את זה. ה-FDA לא מתערב, המדינות נותנות פטורים, וה-AI ממשיך לחדש מרשמים. השאלה היא מתי — לא אם — משהו ישתבש. בינתיים, אם במקרה תבקרו ביוטה ותראו צ'אטבוט רושם מרשמים בבית מרקחת — תדעו שזה חוקי. כנראה.