ידיעות בינה מלאכותית בנושא HALLUCINATION
Google הסירה את מודל ה-AI "ג'מה" מפלטפורמת AI Studio לאחר שהסנטורית Marsha Blackburn האשימה אותו בהמצאת האשמות שווא בגין מעשים לא-הסכמיים. החברה הדגישה שהמודל מיועד למפתחים ולא למשתמשים כלליים, וכי הוא יישאר זמין ב-API. בלקברן טוענת להטיה שמרנית במערכות ה-AI של החברה.
פוליטיקאי בכיר במפלגה הליברלית האוסטרלית השתמש בבינה מלאכותית ליצירת מקורות מזויפים אשר הוצגו כראיות מדעיות. לאחר חשיפת המעשה, הודתה המפלגה בטעות המביכה תוך אזהרה מהסכנות בשימוש ב-AI ללא אימות. האירוע מעלה שאלות על אמינות מקורות המידע בעידן הטכנולוגיה המתקדמת.
טכנולוגיית Automated Reasoning מספקת מענה לבעיית ההזיות של מודלי שפה, באמצעות היגיון מתמטי הניתן להוכחה. השיטה כבר מיושמת בתחומים כמו משפטים, מתמטיקה וענף הענן, ומבטיחה דיוק מוחלט ביישומי AI קריטיים. המערכות פועלות בעלות נמוכה ללא GPU ומאפשרות שקיפות מלאה בתהליכי קבלת ההחלטות.
מחקר חדש של OpenAI מוכיח שהזיות AI הן בלתי נמנעות מתמטית, בעוד Zoom משיקה סייעים חכמים שיודעים להמליץ אילו ישיבות לדלג עליהן ולפעול במערכות מתחרות. המירוץ הטכנולוגי מתחמם עם גיוס בכירים ממתחרים ומסחור סייעי AI מתקדמים, אך צמצום ההזיות נותר אתגר עתידי.
מחקר חדש של OpenAI חושף כי הזיות AI נובעות משיטות אימון שמתגמלות ניחושים על פני הודאה בחוסר ידע. הפתרון המוצע: תכנון מחדש של שיטות ההערכה כך שיענישו תשובות שגויות בטוחות ויתגמלו ביטויי אי-וודאות. זהו אתגר מהותי לכל המודלים השפתיים הגדולים כמו GPT-5 ו-Claude.
למרות ההבטחות, AI עדיין רחוק מהחלפת שיפוט אנושי - במיוחד במסקנה מטרידה מבדיקה שבה מערכות המציאו סיפור מלא פרטים על עבודת נעורים בדיונית של אילון מאסק בגינון. מחבר מאמר ב'פורצ'ן' מסביר מדוע עלינו להיזהר מתלות יתר במערכות ללא בקרה אנושית, ומה הופך את החשיבה האנושית לבלתי ניתנת להחלפה.
עו"ד בכיר באוסטרליה הגיש מסמכים שכללו ציטוטים ופסקי דין דמיוניים שנוצרו ע"י AI, ועיכב תיק רצח של קטין. הפרשה מצטרפת למקרים דומים בארה"ב ובריטניה, ומעלה חששות לגבי שימוש לא מבוקר בבינה מלאכותית במערכת המשפט. השופט: "חייבים לאמת את פלטי ה-AI בקפידה".