מחסור באוריינות AI עלול להוביל להחלטות מסוכנות – המקרה של הברומיד

החלפת מלח שולחן בברומיד: איך בורות ב- AI עלולה להסתיים בחדר מיון

סיפורו של גבר שאושפז עקב הרעלת ברומיד ("ברומיזם") אחרי שהחליף מלח שולחן בנתרן ברומידי בעקבות המלצת כלי AI – הפך לאזהרה מטרידה על הסכנות באי הבנת טכנולוגיות בינה מלאכותית. הדיווח המקורי ב-Ars Technica חשף כי האיש ביצע את ההחלפה למרות אזהרות בפלטפורמה שמדובר בחומר המשמש לטיפול בבריכות וחומרי ניקוי – לא למאכל אדם.

חוסר ההבנה של מהות ה- AI: לא רק בעיה של "הלוצינציות"

• פרופ' קימברלי ואן אורמן מאוניברסיטת ג'ורג'יה מסבירה: "מדובר במחוללי טקסט סינתטיים – אין להם יכולת להבחין בין אמת לשקר"
• בלשנית ד"ר אמילי בנדר מהאוניברסיטת של וושינגטון מחדדת: ה- L הראשון ב- LLM צריך לסמל "מוגבל" (Limited), לא "ענק" (Large)

מה ההבדל בין AI ל- GenAI?

| סוג מערכת | מאפיינים עיקריים | |------------------|-----------------------------------------------------------------------------| | AI קלאסי | זיהוי תבניות, מיון נתונים, קבלת החלטות אוטומטית (כמו במערכות נהיגה אוטונומית) | | GenAI (כולל ChatGPT) | מחולל תוכן חדש: טקסט, קוד, מוזיקה, תמונה - מבוסס למידה מסיבית מנתונים |

"הבעיה אינה בהכרח 'הזיות' של ה- AI," מדגיש מחבר המאמר, "אלא בחשיבה ביקורתית של המשתמש ובאי הבנת ההקשר.

סכנות דומות קיימות גם בתחום המטאורולוגיה

• מומחים מזהירים מפני "מטאורולוגיית מדיה חברתית" – הפצת תחזיות לא מבוקרות בפלטפורמות כמו TikTok
• הציבור עלול לפרש לא נכון מונחים כמו "30% סיכוי לגשם" או התראות צונאמי ללא הקשר מקצועי

המקרה ממחיש צורך דחוף בהגברת האוריינות הדיגיטלית, במיוחד נוכח שילוב ה- AI בתחומים קריטיים כמו רפואה ואבטחת מזון.