מודל AI רפואי עלול להטעות

אתם מכירים את זה שאתם בודקים תסמין ומייד קופצים ל-ChatGPT? מסתבר שאתם ממש לא לבד. 17% מהמבוגרים מדווחים שהם משתמשים בצ'אטבוטים של AI לשאלות בריאות לפחות פעם בחודש. מהירות התגובה והטון המרגיע עושים את שלהם.

אבל ל-Consumer Reports יש אזהרה ברורה: התשובות האלה, לפעמים, שגויות לגמרי.

אז מה בעצם הבעיה?

הבעיה העיקרית היא שהמודלים האלה, מ-ChatGPT דרך Google Gemini ועד Microsoft Copilot, יכולים "להמציא" עובדות או לערבב פרטים חשובים, וזאת תוך כדי שהם מציגים את המידע שלהם כנכון ומפורט. "קשה מאוד לדעת מתי יש אי-דיוקים", נמסר מ-Consumer Reports. "והמערכות האלה כן טועות. זה ידוע".

מחקר שנערך לאחרונה מצא שאנשים נוטים לתת אמון יתר בייעוץ רפואי שנוצר על ידי AI. רבים מהנשאלים פשוט לא הצליחו להבדיל בין תשובה של AI לבין תשובה של רופא אמיתי.

מעבר לדיוק, קיימת גם סוגיית הפרטיות. מערכות AI אינן כפופות לאותם חוקי פרטיות כמו המרפאה שלכם. המשמעות היא שמידע אישי ובריאותי שאתם משתפים עם צ'אטבוט יכול לשמש, להימכר, או אפילו להיגנב במקרה של פרצת אבטחה.

מה לגבי קניות?

המגמה של שימוש ב-AI לקבלת החלטות צרכניות רק הולכת ומתפשטת. במחקר חדש שנערך בבריטניה, 20% מהצרכנים מדווחים שהם פונים לפלטפורמות AI כמו ChatGPT ו-Google Gemini כדי לגלות מוצרים חדשים, יותר מאשר בפייסבוק (19%) או TikTok (18%).

55% מהקונים הבריטים אפילו ביצעו רכישה על בסיס המלצה מ-AI. עם זאת, גם כאן חוסר האמון בולט: שליש מהלקוחות מודאגים שה-AI לא מראה להם את המוצרים הטובים ביותר, אולי בגלל אי-דיוקים או הטיות מסחריות. רק 10% היו מבלים יותר זמן עם עוזר קניות מבוסס AI מאשר עם בן אדם.

מה כדאי לזכור?

ההמלצה של Consumer Reports היא ברורה: השתמשו ב-AI כנקודת פתיחה למידע, לא לאבחון או טיפול. שמרו על המידע הבריאותי האישי שלכם פרטי, ותמיד אמתו את מה שאתם לומדים מול מקורות מהימנים או מול הרופא שלכם. במקרה חירום רפואי, לעולם אל תסתמכו על צ'אטבוט – התקשרו מיד.

בעצם, אנחנו חיים בעידן שבו מכונה יודעת לדבר על בריאות או להציע לנו לקנות מוצר, אבל האחריות לבדוק את העובדות, כמו תמיד, נשארת אצלנו.