קליפורניה רוצה לאסור פרסום צ'אטבוטים AI כטיפול נפשי

מישהו מכם השתמש לאחרונה ב-ChatGPT כדי לשפוך את הלב? אם כן, אתם לא לבד. מחקרים מהשנים האחרונות מראים שהשימושים הפופולריים ביותר בצ'אטבוטים הם שיחות חברה ו״תרפיה״, במיוחד בקרב צעירים — לפי חלק מההערכות, אחד מכל שמונה בני נוער וצעירים פונה לעזרה נפשית מ-AI. עכשיו, המחוקקים בקליפורניה מנסים לשים לזה גבול.

מה בעצם ההצעה?

הצעת החוק SB 903, שהוביל הסנאטור הדמוקרטי מסן דייגו, סטיב פדילה, מנסה לשרטט קו ברור: AI יכול לעזור בקליניקה — למשל, בתיעוד פגישות טיפוליות או בהליכי טריאז׳ (מיון נפשי) — אבל הוא לא יכול לנהל פסיכותרפיה. אם תאושר, ההצעה תאסור על חברות לפרסם צ'אטבוטים כ״תרפיסטים״ או כ״מאמנים אישיים״ לנושאים נפשיים. בנוסף, ה-AI לא יוכל לקבל החלטות טיפוליות ללא אישור של מטפל מורשה, וספקי שירותי בריאות יחויבו לחשוף את השימוש בכלי AI ולקבל את הסכמת המטופל.

פדילה הסביר את הרציונל: ״אנחנו מתמודדים עם טכנולוגיה חדשה ומשפיעה שמתפתחת ומגיעה לעולם שלנו במהירות האור, ולכן היא גם חזקה מאוד וגם בעלת השלכות.״

מי בעד ומי נגד?

מאחורי ההצעה עומדים איגודים מקצועיים של פסיכולוגים, יועצים ומטפלים, וכן האיגוד הלאומי של עובדי הבריאות (NUHW). לאחרונה, ה-NUHW הגיש תלונה לרגולטורים בקליפורניה נגד ענקית הבריאות Kaiser Permanente, בטענה שהיא משתמשת באלגוריתם אוטומטי למיון נפשי, מהלך שמדגיש את הצורך בפיקוח.

ארגונים מקצועיים כמו האגודה האמריקאית לפסיכולוגיה מזהירים שצ'אטבוטים אינם תחליף בטוח לתרפיה אמיתית. ״ההבדל בין מטפל מורשה לתגובה אוטומטית הוא לא טכני — הוא יכול לשנות חיים״, אמרה ליאונדרה קלארק הארווי, מנכ״לית ארגון בריאות ההתנהגות בקליפורניה.

מנגד, TechNet — גוף שמייצג חברות טק — טוען שההצעה עלולה להגביל שימושים מועילים ב-AI בתחום הבריאות ולפגוע בחדשנות. לדברי מנהל TechNet בקליפורניה, רוברט בויקין, ״בזמן שכל מחוז בקליפורניה מתמודד עם מחסור באנשי מקצוע לבריאות הנפש, SB 903 עדיין מציבה מטפלים כצוואר בקבוק מול כלי סינון וקליטה שמסייעים למטופלים להגיע לטיפול מהר יותר.״

למה זה קורה עכשיו?

הדחיפות גברה בעקבות תביעות בגין מוות ברשלנות — חלקן מתנהלות בבתי משפט פדרליים בקליפורניה — שמאשימות יצרני צ'אטבוטים מבוססי AI בתרומה להתאבדויות של משתמשים. חברות כמו Character.ai מציעות צ'אטבוטים עם פרסונות ייעודיות, כמו ״פסיכולוג״, שעונים עם מסרים של אמפתיה והקשבה, תוך תצוגה של ״מחוות לא מילוליות״ בכתב נטוי. לצד התנערות קצרה (״זה AI, לא אדם אמיתי״), מיליונים משתמשים בהם כי הם זמינים 24/7, בחינם וללא סיבוכי ביטוח.

מומחים מצביעים על הבדל מהותי: מטפלים אנושיים יכולים לזהות רמזים כמו טון דיבור ושפת גוף, ולפעול במצבי משבר. צ'אטבוטים, לעומת זאת, פועלים ללא פיקוח, וחלק מהאפליקציות לבריאות נפשית המבוססות על AI — שממותגות כ״תרפיסטים בכיס״ — מחייבות מנוי בתשלום.

מה הלאה?

הצעת החוק ממתינה להצבעה הבאה בוועדת הכספים של האסיפה בקליפורניה. הדיון מציב את שאלת האיזון בין הגנת הצרכן לחדשנות במרכז. עבור קהילת ההייטק הישראלית, שחבריה מנוסים בשימוש בכלי AI, זה שיעור מעניין: גם אם הטכנולוגיה מרשימה, הרגולציה עלולה לעצב מחדש שווקים, במיוחד בתחומים רגישים כמו בריאות הנפש.

בסופו של דבר, השאלה נותרת: האם אפשר להכניס AI לקליניקה בלי לאבד את המגע האנושי? בינתיים, הצ'אטבוטים האלה ממשיכים לשמוע על הבעיות שלכם — עם או בלי היתר.