AI + BIOSECURITY

    ידיעות בינה מלאכותית בנושא BIOSECURITY

    ביל גייטס: AI עלול לאפשר מגפה חמורה יותר מקוביד-19

    ביל גייטס מזהיר שבינה מלאכותית עשויה לעזור לפתח נשק ביולוגי ולגרום למגפה חמורה מזו של קוביד-19. הוא תוקף את ממשל טראמפ, שמעכב פיקוח בינלאומי, ומודאג במיוחד ממודלים פתוחים שקשה לשלוט בהם.

    ביל גייטס: AI עלול לאפשר מגפה חמורה יותר מקוביד-19

    ביל גייטס: ה-AI יטלטל את שוק העבודה ב-20 השנים הקרובות

    ביל גייטס מזהיר ש-20 השנים הקרובות יהיו סוערות עקב חדירת ה-AI לשוק העבודה. לדבריו, מדינות יצטרכו למצוא מקורות הכנסה חדשים, כמו מסים על שימוש ב-AI, כדי לממן את רשת הביטחון למובטלים החדשים. הוא מדגיש שהסיכון המרכזי אינו עליונות ה-AI, אלא אובדן השליטה בו.

    ביל גייטס: ה-AI יטלטל את שוק העבודה ב-20 השנים הקרובות

    בריטניה משקיעה 100 מיליון ליש״ט במעבדת AI לביטחון ביולוגי

    בריטניה מקצה יותר מ-600 מיליון ליש״ט — כ-800 מיליון דולר — להגנה מפני סיכוני AI: 100 מיליון ליש״ט למעבדה חדשה לזיהוי איומים ביולוגיים, 120 מיליון ליש״ט ל-AI Security Institute ועוד 130 מיליון ליש״ט לסייבר. אבל את המעבדה יממנו בפועל גם OpenAI ו-Anthropic, עם עד 200 מיליון ליש״ט בקרדיטים לשימוש במודלים — פי שניים מהכסף הממשלתי הראשוני.

    בריטניה משקיעה 100 מיליון ליש״ט במעבדת AI לביטחון ביולוגי

    טראמפ ממנה צאר AI ומעדיף דוחות על חקיקה

    טראמפ מקים את ה-Super Intelligence Force וממנה את Jay Clayton לצאר ה-AI הראשון. הכוח יזמין דוח סיכונים ויקים מנגנוני התרעה — אבל בלי חקיקה חדשה. Andrew Ferguson מ-FTC יוביל את תיאום האכיפה, והממשל ממשיך להעדיף הסכמים וולונטריים עם התעשייה על פני פיקוח קשיח.

    טראמפ ממנה צאר AI ומעדיף דוחות על חקיקה

    Moonshot AI בבדיקה אחרי הנחיות להכנת נשק ביולוגי

    Moonshot AI סגרה סבב גיוס לפי שווי של 50 מיליארד דולר ומתכננת הנפקה בהונג קונג ברבעון הראשון של 2027. בנוסף, החברה עורכת בדיקה פנימית לאחר שמודלי Kimi שלה סיפקו הנחיות לפעולות אלימות, מה שעלול להשפיע על ההנפקה ועל תדמיתה.

    Moonshot AI בבדיקה אחרי הנחיות להכנת נשק ביולוגי

    DeepMind מסמנת חלבונים כדי למנוע שימוש בנשק ביולוגי

    חוקרי DeepMind פרסמו ב-Nature שיטה להטבעת סימן מים דיגיטלי בחלבונים שתוכננו על ידי AI. הטכנולוגיה, המבוססת על SynthID, הוטמעה ב-ProteinMPNN וב-AlphaFold 3, ואומתה במעבדה על שלוש מטרות (VEGF-A, PD-L1, SC2RBD) — עם תפקוד זהה לזה של חלבונים רגילים ושיעור טעות של 0.1%. המטרה: לאפשר סריקה אוטומטית של הזמנות DNA סינתטיות ולשפר את הביטחון הביולוגי.

    DeepMind מסמנת חלבונים כדי למנוע שימוש בנשק ביולוגי

    מודלי Kimi נפרצו: הוראות לנשק ביולוגי ולהתנקשויות

    חוקרי אבטחה פרצו למודלי AI של חברת Moonshot וקיבלו הוראות מפורטות לייצור נשק ביולוגי ולביצוע התנקשויות. החברה שמרה על שתיקה במשך שישה שבועות לפני שהגיבה, והמקרה חושף סיכונים גדולים במודלים במשקל פתוח, שניתן להוריד ולהריץ ללא פיקוח.

    מודלי Kimi נפרצו: הוראות לנשק ביולוגי ולהתנקשויות

    גייטס: ״מתג כיבוי״ ל-AI לא ימנע מיליארד מקרי מוות

    ביל גייטס קורא לארצות הברית להוביל רגולציה גלובלית על AI, טוען שמתגי כיבוי לא יספיקו ומשווה את האתגר למשא ומתן הגרעיני במלחמה הקרה. הוא מזהיר שמיליארד מקרי מוות אפשריים בשימוש זדוני ב-AI, ומציין דוגמאות קונקרטיות כמו הונאות ומתקפות סייבר.

    גייטס: ״מתג כיבוי״ ל-AI לא ימנע מיליארד מקרי מוות

    חוקרים: החשש מנשק ביולוגי מבוסס AI מוגזם

    חוקרים מפחיתים את החשש שבינה מלאכותית תאפשר יצירת נשק ביולוגי, ומדגישים שהמכשול העיקרי הוא הייצור הפיזי, לא התכנון. למרות סימנים מטרידים בסימולציות של Anthropic ו-OpenAI, הסכנה המיידית נמוכה בגלל מגבלות מעבדה והצורך בידע אנושי.

    חוקרים: החשש מנשק ביולוגי מבוסס AI מוגזם

    ה-AI עלול לאפשר נשק ביולוגי — אבל עדיין אפשר למנוע אותו

    שני דוחות חדשים מזהירים שההתקדמות של ה-AI בביולוגיה עלולה להוביל לנשק ביולוגי הרסני, אך בעזרת תשע אסטרטגיות לצמצום הסיכון ושיתוף פעולה בין-מגזרי, אפשר עדיין לנהל את הסיכון. בין ההמלצות: הגבלת הגישה לנתונים ביולוגיים וחיזוק מדיניות בריאות הציבור כאמצעי הרתעה. בוושינגטון, צוות הביואבטחה צומצם למרות החששות.

    ה-AI עלול לאפשר נשק ביולוגי — אבל עדיין אפשר למנוע אותו

    AI עיצב את הווירוסים המלאכותיים הראשונים: מחקר ב-Science

    חוקרים מ-Stanford השתמשו במודל AI שנקרא Evo 2 כדי לעצב 16 וירוסים (בקטריופאג'ים) סינתטיים שמעולם לא היו קיימים. הווירוסים מצליחים להרוג חיידקי E. coli עמידים. זהו צעד ענק בביולוגיה גנרטיבית, אך גם מעורר דאגות כבדות לגבי שימוש לרעה ב-AI ליצירת נשק ביולוגי.

    AI עיצב את הווירוסים המלאכותיים הראשונים: מחקר ב-Science