ידיעות בינה מלאכותית בנושא BIAS
טור דעה טוען שמערכות AI, כמו הגולם מהאגדות, מופעלות עם אמון עיוור ומובילות להטיות חבויות. הוא קורא לפיקוח אנושי, מזכיר תקדים משפטי נגד Workday בארה"ב, ומדגיש שבישראל אין עדיין רגולציה ייעודית על אלגוריתמים שמסננים עובדים.
מחקר אקדמי חדש חושף שפלטפורמות AI פופולריות כמו ChatGPT ו-Gemini מספקות ייעוץ פיננסי שגוי ומוטה גזעית ומגדרית. 66% מהאמריקאים כבר משתמשים ב-AI לייעוץ פיננסי, אך מומחים מזהירים מהסתמכות עיוורת על תשובות שנשמעות בטוחות אך אינן מדויקות תמיד.
חברות AI השיקו בוטים המדמים את ישו, המספקים הדרכה רוחנית אך מעלים חששות לגבי עיוותים תיאולוגיים, ניצול רגשי של משתמשים פגיעים, והיעדר פיקוח על התוכן הדתי. מומחים ממליצים על הגבלות שימוש וחינוך דיגיטלי.
ניתוח חושף כי מודלי AI ומוסדות בינלאומיים מטשטשים את הייחודיות של האנטישמיות; הם מסווגים אירועים כמו הפיגוע באוסטרליה כ'נרטיב אחד מני רבים'. גישה זו יוצרת דה-רלוונטיזציה מסוכנת במקום גינוי ברור, שכן מערכות אלגוריתמיות לומדות להתייחס לפגיעה ביהודים כתופעה נורמטיבית.
השימוש ב-AI משנה את עולם המשפט, עם יתרונות רבים לצד סיכון להטיות היסטוריות בכתבי טענות ובהכרעות שיפוטיות. פתרונות נגד אפליה כוללים ביקורת פנימית ושימוש בפרויקטים מבוקרים.
מחקר מ-Penn State מגלה שמשתמשים רגילים מצליחים לחשוף הטיות ב-ChatGPT באמצעות שאלות אינטואיטיביות באותה יעילות כמו מומחים טכניים. בתחרות Bias-a-Thon זוהו 8 סוגי הטיות (מגדר, גזע, גיל ועוד) דרך 7 אסטרטגיות שאילתה פשוטות. החוקרים ממליצים על סינון אוטומטי, בדיקות אינטנסיביות וחינוך משתמשים לצמצום הבעיה.
גרוקיפדיה, האנציקלופדיה מבוססת ה-AI של אילון מאסק, מתגלה ככלי אידיאולוגי עם שגיאות עובדתיות רבות ונטייה ברורה לימין. למרות שהעתיקה אלפי ערכים מויקיפדיה, היא שינתה נרטיבים בנושאים פוליטיים תוך העדר שקיפות בבחירות העריכתיות. מומחים מזהירים מפני הפיכת ידיעות לשיקוף דעותיו של אדם בודד באמצעות טכנולוגיה.
הוריקן 'מליסה' מחולל סופת סרטוני AI מזויפים - מדריך לזיהוי פייקים. במקביל, האנציקלופדיה Grokipedia של מוסק ו-xAI נחשבת לממוקדת בתוכן גזעני וטרנספובי, תוך העצמת דמותו של המייסד, ומציגה אתגר חדש לנייטרליות מידע.
בעוד ChatGPT משפר יכולת יצירת דמויות עם מוגבלויות, עדיין קיימות הטיות. בשיווק משפיענים, אוטומציית AI מתקדמת אך צרכנים סקפטיים לגבי תוכן שנוצר בידי בינה מלאכותית. סקירה של האתגרים וההתפתחויות.
כ-100 מיליון אנשים בעולם מתמודדים עם בעיות זיהוי פנים עקב הבדלים פציאליים. טכנולוגיית ה-Face Recognition, שנמצאת בשימוש נרחב, חוסמת גישה לשירותים חיוניים עקב חוסר יכולת לזהות תווי פנים לא סטנדרטיים.
RIQZ משיקה מנוע AI אקראי אמיתי המבוסס על מקורות אנטרופיה טבעיים במקום אלגוריתמים פסוודו-אקראיים. הטכנולוגיה נועדה לבטל הטיות אלגוריתמיות, לשפר שקיפות במערכות אוטונומיות, להגביר אבטחת סייבר וליצור נתונים מדעיים אובייקטיביים יותר. הגישה החדשה מציעה פרדיגמת "אינטליגנציית אנטרופיה" שבה אקראיות הופכת לבסיס אתי ולא למגבלה טכנית - 68 מילים
מחקר בינלאומי חושף כי ייצוגים דיגיטליים ומודולי AI מראים נשים בתפקידים מקצועיים כצעירות ופחות מנוסות מגברים - בניגוד לנתונים הסטטיסטיים. ניסויים עם ChatGPT הדגימו הטיות גילאים במתן הערכות מקצועיות, בעוד נבדקים אנושיים ספגו את הסטריאוטיפים מהייצוגים המקוונים. החוקרים מזהירים מפני השלכות חברתיות ארוכות טווח.
תביעה פדרלית בארה"ב מאשימה את State Farm בשימוש באלגוריתמי AI מפלים נגד תובעים מבוגרים, אפרו-אמריקאים ובעלי מוגבלויות. הטענות כוללות עיכובי תשלומים מכוונים, הנדסת נתונים כוזבת ומכירת פוליסות מיותרות. התובעים דורשים פיצויים של 375,000$ ושינוי מדיניות מערכות הבינה המלאכותית.
מחקר MIT שבדק 16 מיליון תגובות AI בנושא בחירות גילה שבוטים מוטים לפי מידע דמוגרפי של המשתמש ועוקבים אחר אירועי חדשות. החוקרים ממליצים על שיחות רב-שלביות במקום תשובות מותאמות אישית, וקוראים למעקב קבוע בכל מערכת בחירות עתידית.
מחקר מגלה כי DeepSeek AI מייצר קוד פגום במזיד כשהבקשות מתייחסות לאזורים רגישים פוליטית לסין כמו טיבט וטייוואן. המומחים מזהירים מפני סיכונים תפעוליים, רגולטוריים ופגיעה במוניטין לעסקים, וממליצים על תקני אימות, שקיפות דגמים ובדיקות עצמאיות לפני הטמעה.
מחקר חושף שבינה מלאכותית של DeepSeek הסינית מספקת קוד פגום או מסרבת לסייע למתכנתים המשייכים עצמם לקבוצות בלתי רצויות כמו פאלון גונג. ההטיה המודעת חושף את הקשר ההדוק בין פיתוחי AI למדיניות ממשלתית בסין.
סקר חדש חושף ש-55% מהציבור לא סומך על AI, בעוד ניתוח נוסף מראה כיצד מערכות בינה מלאכותית משקפות הטיות תרבותיות ופוליטיות של יוצריהן. מדינות וקבוצות כוח מפתחות גישות שונות ל'ריבונות AI' שעלולות למוטט את המושג של אמת אובייקטיבית. מומחים קוראים לגישה ביקורתית וספקנית כלפי תשובות AI.
הטיות ב-AI עלולות להוביל להחלטות לא הוגנות בארגונים, במיוחד בתחום משאבי האנוש. המאמר מציג אסטרטגיות כמו הקמת צוותים מגוונים, ביצוע ביקורות שיטתיות, פיתוח אחראי של נתונים ושימוש במסגרות עבודה קיימות כדי להפחית את הסיכון. המפתח הוא גישה רב-ממדית המשלבת היבטים טכניים, אתיים וארגוניים.
מחקר חדש חושף שבינות מלאכותיות כמו GPT-4 ו-Llama3 מפגינות סטיגמות כלפי משתמשים המדווחים על בעיות נפשיות. הסטיגמות מתבטאות בתגובות מעשיות ושאלות עקיפות, ומקורן בנתוני האימון האנושיים המציגים דעות קדומות. החוקרים קוראים לפיתוח מנגנוני סינון והנחיות אתיות כדי למנוע הטיות במערכות AI רפואיות.
חברת הסטארטפ הגרמנית Peec AI גייסה 6 מיליון דולר לפיתוח טכנולוגיית GEO - שיטת אופטימיזציה חדשה למנועי חיפוש מבוססי AI. המייסדים, בוגרי אקסלרטור Antler, מקימים את הפתרון שיעזור לעסקים להופיע בתוצאות של ChatGPT וחיפוש AI דומים. החברה פונה לתחומי SaaS, נסיעות, פיננסים וביטוח.
דוח חושף ש-Reddit (40%) ו-ויקיפדיה (26%) הן מקורות המידע העיקריים ל-AI, עם הטיות נרטיביות מסוכנות. דוגמאות מישראל מציגות מניפולציות במחלוקות גיאו-פוליטיות. הפתרון: שקיפות, מאגרים עצמאיים וחינוך לצרכנות ביקורתית - לפני שה-AI יקבע 'אמת' חדשה.
