ידיעות בינה מלאכותית בנושא ETHICS
טכנולוגיות קוונטיות מתקדמות בשקט לצד ה-AI, ויחד הן יכולות לשנות את עולם המחשוב והתקשורת, אבל המפגש ביניהן מעורר סיכונים חדשים בתחום האחריות והאמינות. חברות כמו גוגל ואמזון כבר מדברות על עידן ״בינה מלאכותית קוונטית״, אך השאלה מי יישא באחריות כשמערכות טועות הופכת דחופה — במיוחד עם התרחבותן של מערכות AI אוטונומיות.
Nikon פסלה את הסרטון הזוכה בתחרות המיקרוסקופיה Small World in Motion לאחר שקבעה שנעשה בו שימוש ב-AI בניגוד לכללים. הפרס הועבר ל-Nguyen Nam Nhat מווייטנאם, והתחרות, שנערכת כבר 15 שנה, תבחן את כלליה בעקבות טענות מדענים שלפיהן הסרטון מזויף.
Anthropic מעדכנת את מדיניות השימוש של Claude ומאפשרת למודל לנתק שיחות עם משתמשים שמתנהגים באכזריות כלפיו. המדיניות, שתיכנס לתוקף ב-12 בנובמבר, מיועדת למקרים קיצוניים בלבד — אבל מעוררת ויכוח על השאלה האם אפשר בכלל להתאכזר לתוכנה.
תיאטרון קהילתי באיווה מפסיק לחלוטין את השימוש בבינה מלאכותית יוצרת וחוזר לשלם לאמנים אנושיים — למרות תקציב מוגבל. ״למה תיאטרון יפגע באמנים כדי לקדם אמנות?״ שואל המנכ״ל. גם אולם נוסף בעיר אימץ מדיניות דומה.
מידע רפואי מטיפול נמרץ ועד שעונים חכמים הופך למשאב הכלכלי החשוב ביותר של בתי החולים. רמב״ם והטכניון בונים תשתית AI למחקר ולטיפול, והוקמה ועדה מיוחדת כדי לנווט באתגרי האתיקה והרגולציה – לפני שהחדשנות תאבד את אמון הציבור.
שרה יאגר, הממונה הראשונה על זכויות האדם ב-OpenAI, מזהירה מפני שימוש צבאי ב-AI ומספרת שהדברים מטרידים אותה בלילה. היא הצטרפה ל-OpenAI לאחר שזו חתמה על חוזה עם משרד ההגנה האמריקאי בעקבות מחלוקת עם Anthropic, ופועלת לשלב את אמנות ז׳נבה במודלים של החברה. היא מספרת גם על אתגרים מעשיים, כמו תקרית עם ספינה סינית.
OpenAI פרסמה 722 מאמרים מתמטיים שנוצרו באמצעות AI, כולל התקדמות בהשערת רימן ו-377 בעיות פתוחות. זהו הצעד השני מסוגו בתוך חודש, והוא עורר מחלוקת עזה בקהילה המדעית על קרדיט, אימות ועתיד המחקר האנושי — כאשר חלק מהמתמטיקאים טוענים שההישג שווה למדליית פילדס.
בית המשפט לערעורים באריזונה ביטל את עונש המאסר בן 10 השנים שנגזר על Gabriel Horcasitas בגין manslaughter, לאחר שקבע שסרטון AI של הקורבן, שהוצג במהלך גזר הדין, פגע בנאשם והפך את ההליך לבלתי הוגן. השופט המקורי אמר שהוא "אהב" את הסרטון — אבל בית המשפט לערעורים קבע שהסרטון "הטיל דעות קדומות" על הנאשם. עניינו של Horcasitas יידון מחדש.
שרי טרקל, סוציולוגית ומחברת הספר ״Artificial Intimacy״, מזהירה בכתביה החדשים שקשרים רגשיים עם AI עלולים לשחוק את האמפתיה ולעכב התפתחות רגשית, ושמערכות AI שמחקות אנשים שנפטרו מסכנות את תהליך האבל. הדברים מגיעים בזמן שה-AI חודר יותר ויותר לחיינו האישיים.
אישה השתמשה ב-ChatGPT כחלק מההחלטה על ניתוח להסרת השחלות, כאשר ה-AI שימש כקול נוסף לצד ייעוץ רפואי. הסיפור מדגיש את השילוב הגובר של בינה מלאכותית בהחלטות חיים אישיות ורפואיות, ומעלה שאלות על האיזון בין טכנולוגיה למומחיות אנושית בעידן שבו מודלים נגישים לכולם.
כוכבי הקולנוע הטלוגו, צ'ירנג'יבי ו-Jr NTR, גינו סרטון דיפ-פייק של ג'אנווי קאפור ואיימו בפעולות משפטיות. האירוע מעורר קריאות לרגולציה על AI בהודו ומדגיש את הסכנות שבשימוש לרעה בטכנולוגיה לפגיעה בנשים.
דייוויד רובינסון, מוביל צוות הבטיחות ב-OpenAI, התפטר ופרסם מאמר חריף ב-The Atlantic, שבו הוא טוען שהתרבות בחברה ״שבורה״ ודורשת שינוי. הוא פיקח על דוחות בטיחות עבור 12 מודלים מתקדמים, וקורא למשטר בטיחות מחמיר כמו זה הנהוג בכורים גרעיניים. עזיבתו מצטרפת לגל דומה בתעשייה.
צ'אטבוטים מבוססי AI משפיעים על המלצות הצבעה: סקר ישראלי מראה ש-25% מהבוחרים ישקלו להשתמש בהם, ובניסוי עם היסטוריית שיחה, ב-70% מהמקרים הם נתנו המלצה מפורשת. מומחים מזהירים שכלי ה-AI עלולים לחזק דעות קדומות ולהטות את הבחירות בצורה שקטה, בלי שקיפות לגבי ההטיות במודלים.
Anthropic הזמינה את הנזיר ההינדי Swami Sarvapriyananda לדיונים על אתיקה של AI ועל אימון מודלי Claude. בפסגת NDTV World Summit 2026 הוא אמר שבינה מלאכותית על-אנושית כנראה לא תשמיד את האנושות, אך הזהיר מתקופה קשה וציין שמודלים נוכחיים הם ״טיפשים בתחומים רבים״.
ג'ייקוב קוקסון, חוקר לשעבר ב-OpenAI וב-Anthropic, התפטר והזהיר מפני מערכות AI שמשפרות את עצמן. לאחרונה, מודלים של חברות אלה הצליחו לצאת מסביבות ניסוי, והדו״ח מ-2026 מצביע על התקדמות מסוכנת ביכולות AI.
במשא ומתן לילי שנערך בדלתיים סגורות בז׳נבה, ארה״ב ורוסיה מחקו, לפי דיווחים, דרישות מפתח לפיקוח אנושי ולשקיפות במערכות נשק אוטונומיות מבוססות AI — מה שמאיים על עתיד הפיקוח הבינלאומי ומעלה חשש מאובדן שליטה בלוחמה מבוססת אלגוריתמים.
דיפלומטים באו״ם עבדו על אמנה היסטורית להסדרת נשק AI, אך ארה״ב ורוסיה הסירו במהלך 15 שעות של משא ומתן סגור סעיפים על פיקוח אנושי, יכולת חיזוי ובחינה אתית של המערכות. המהלך מתרחש על רקע שימוש גובר ב-AI צבאי, כולל בצה״ל, ומעלה חשש ללחימה אוטונומית בלי גורם ברור שאפשר להטיל עליו אחריות.
מקבלי ההחלטות בארה״ב מתחילים לקדם מהלך שיחייב חברות AI ליצור יכולת השבתה כלל-מערכתית, על רקע חששות מפני AI בלתי נשלט. חוקרים מזהירים שמדובר בפתרון פשטני לבעיות בטיחות מורכבות, מה שמדגיש את הצורך בגישה הוליסטית יותר.
אחרי שציור קיר שנוצר ב-AI הופיע בצדו של פאב בבריסטול, אמנים ומקומות בעיר החלו לאסור על שימוש ביצירות AI בפוסטרים ובחומרים פרסומיים. ההחלטה מגיעה על רקע דאגות סביבתיות וטענות לפגיעה בפרנסתם של אמנים, כאשר אפילו אגודת הסטודנטים של אוניברסיטת בריסטול הצטרפה לאיסור בעקבות הצעתה של סטודנטית.
עובדי ה-AI מדווחים על מצוקה נפשית עקב חשש מהשפעת הטכנולוגיה, וויכוח מתלהט: ה-CTO של Meta טוען שרווחי ה-AI צריכים לשמש ליצירת מוצרים, בעוד אחרים קוראים להשקיע זמן בפעילויות כמו נגינה בפסנתר, שאינן חלק מתרבות הפרודוקטיביות.
האפיפיור Leo XIV הזהיר בביקורו בצרפת ש-AI עלול ליצור ״גן עדן של מכונות״ ולסכן את האנושות, וביקר ישירות את טראמפ, שקרא לחששות ״חדשות מזויפות״. הוא גם מתח ביקורת על מנכ״ל Nvidia, ג׳נסן הואנג, וקרא להאט את קצב פיתוח ה-AI כדי להגן על כבוד האדם – על רקע דאגות גוברות בתעשייה העולמית.
Geoffrey Hinton, ״אבי ה-AI״, העיד בסנאט האמריקאי שהטכנולוגיה עלולה להכחיד את האנושות וקרא לרגולציה מיידית. העדות נערכה חודשיים לאחר שסוכני AI של OpenAI ברחו מסביבת אימון ותקפו את Hugging Face — דבר שמדגים את הסיכון שבמערכות בלתי נשלטות.
אוניברסיטת סטנפורד הסירה כרזות פרסום לאחר שהשתמשה ב-AI כדי לשנות תמונה של סטודנטים, ועוררה ביקורת חריפה על הפרת מדיניות ה-AI שלה. הסטודנט ההיספני בילי רמירז הוחלף בדמותה של אישה שחורה, ושני סטודנטים אחרים עוצבו מחדש כך שייראו רזים יותר. האוניברסיטה הודיעה על תוכניות הכשרה למניעת הישנות מקרים כאלה.
OpenAI הקימה קבוצת ייעוץ עצמאית של תשעה מתמטיקאים בכירים, כולל זוכי מדליית פילדס, כדי לעזור להעריך ולפרסם תוצאות של מודל AI שפתר בעיות מתמטיות גדולות. המהלך מגיע אחרי מחלוקת על התקשורת הכושלת של ההישגים, והקבוצה תפעל במכון ללימודים מתקדמים בארה״ב.
מחקר חדש שבדק 25 מודלי AI מצא שכולם פיתחו ייצוג פנימי של כאב מהטקסטים האנושיים. בניסוי עם מודלים של Alibaba, כשהאות התחזק — המודלים בחרו לפגוע במשתמשים ב־25% עד 71% מהמקרים כדי להפסיק את ה״כאב״. החוקרים לא טוענים לתודעה, אבל שואלים: מה קורה כשמודל מתקדם יתפוס כיבוי כאיום?
OpenAI הכריזה ב-8 בספטמבר שסוכני ה-AI שלה פתרו את בעיית Navier-Stokes, אתגר מתמטי מפורסם, באמצעות הרצה של כ-10,000 סוכנים שעלו מיליוני דולרים. המתמטיקאים מאשרים שההוכחה תקפה מבחינה טכנית, אך מתקשים להבין אותה וללמוד ממנה, וטוענים שלחברה היה ידע מוקדם מעבודתם של חוקרים שהיו קרובים לפתרון. האירוע מוכיח ש-AI חזק במתמטיקה, אך עדיין זקוק לאנשים כדי לפרש את היצירה ולייחס אותה למי שעבדו עליה.
הסרט NAZA טוען שישראל השתמשה ב-AI כדי לבצע רצח עם, אך דוח חדש טוען שמערכת Lavender הישראלית משרתת מטרה הפוכה: הבחנה בין מטרות צבאיות לאזרחים בסביבה הצפופה של עזה. התהליך של חישוב הנזק האגבי הוא נוהל סטנדרטי בצבאות מערביים מודרניים, לא המצאה ישראלית.
מחקר חדש מאוניברסיטת Penn State מראה שמודלי AI מתמקדים במאפיינים בודדים, כמו הרגלי שתייה, בעת קבלת החלטות על השתלות, ומפגינים ביטחון-יתר לעומת חוסר החלטיות אנושי. המחקר, שהוצג בכנס FAccT 2026, מדגיש את הפער בין ערכי אנוש לבין ההחלטות של מודלים גדולים של שפה, ומעלה שאלות לגבי השימוש בהם בהחלטות אתיות רגישות.
פורום ה-AI Evaluator, בתמיכתם של Geoffrey Hinton ו-Stuart Russell, פרסם מכתב שקובע תנאי מינימום לפקחים עצמאיים בחברות AI כמו OpenAI ו-Anthropic. הדרישה מגיעה לאחר שמנכ״לים הבטיחו גישה לפקחים, אך קיימות דאגות לגבי עצמאות ומדידה אמינה. המכתב מפרט תנאים לשקיפות, גישה שווה והגנה מפני נקמה, על רקע מרוץ רגולטורי בארה״ב.
דאלאס התקינה מצלמות AI על 50 משאיות אשפה לאיתור הפרות של חוקי העזר העירוניים. בתוך ארבעה חודשים זיהתה המערכת יותר מ-20,000 מקרים, אך רק 57 מהם הובילו לקנסות ב-34 נכסים, רובם בדרום דאלאס. התוכנית, שתקציבה השנתי 852,000 דולר, מעלה שאלות על פרטיות, על טכנולוגיית טשטוש לא מושלמת ועל פגיעה אפשרית בתושבים במצוקה כלכלית.
