ידיעות בינה מלאכותית בנושא IEEE
Vaishnav Anand, תלמיד תיכון בן 16 מקליפורניה, הקים את DeepTrust באוגוסט 2024 לאחר שנפל קורבן לדיפפייק. הפלטפורמה מזהה וידאו, אודיו, תמונות ותצלומי לוויין סינתטיים בתנאי שטח. היא כוללת את AITruthCheck.app, נבחנת במסגרת ניסויי פיילוט בבתי ספר וזכתה להכרה בתחרויות יזמות בינלאומיות.
מחקר חדש מראה ש-72% מהמפתחים משתמשים מדי יום בכלי AI לכתיבת קוד, וכ-42% מבסיסי הקוד הקיימים נוצרו ב-AI או נעזרו בו. בתוך שנה, AI צפוי לכתוב יותר ממחצית הקוד. אך מעבר לנתונים, צוותים מתמודדים עם עומס ביקורות, התרבות פרצות אבטחה וחשש שמהנדסים צעירים יאבדו ניסיון מעשי.
חוקרים ישראלים פיתחו מערכת AI בשם MEDA שמצליחה לנסח משוואות מדעיות מתוך מאמרים קיימים. בבדיקה של 12 מערכות נמצאה בעיה קריטית: מודלים שמסתמכים רק על נתונים גולמיים הניבו משוואות חסרות ביסוס ביולוגי ורפואי. המערכת הישראלית, שמשלבת מודל שפה עם חיפוש מתמטי, מייצרת משוואות שקופות וניתנות לבדיקה, וזמינה כקוד פתוח לחוקרים אחרים.
עולם ה-AI הארגוני יוצא משלב ההייפ ועובר לסקפטיות בריאה: מנהלים מחפשים תוצאות מדידות, עובדים חוששים מתחלופת תפקידים, ואתיקה הופכת למקצוע נדרש. Dayforce וסקר IEEE מציגים מודל פרקטי: שימוש במודלי OpenAI, RAG, "AI Champions" ושקיפות, לצד בחירת יישומים ממוקדים ואחראיים במקום הבטחות מוגזמות.
מחקר חדש מציג את רעיון 'הסוכניות הרשת' - עולם שבו סוכני AI אוטונומיים הופכים למשתמשים המרכזיים באינטרנט. המעבר יצריך עיצוב מחדש של תשתיות ופרוטוקולים, עם יתרונות פוטנציאליים ביעילות אך סיכונים אבטחתיים חסרי תקדים. פרופ' דון סונג מדגישה את הצורך בטכנולוגיות אבטחה חדשות לאור האוטונומיה הגבוהה של הסוכנים והיכולת שלהם לבצע פעולות רגישות.
