ידיעות בינה מלאכותית בנושא POLICY
Anthropic מעדכנת את מדיניות השימוש של Claude ומאפשרת למודל לנתק שיחות עם משתמשים שמתנהגים באכזריות כלפיו. המדיניות החדשה, שתיכנס לתוקף ב־12 בנובמבר, מחריגה תסכול רגיל ובדיקות QA — אך מחדדת איסורים על קמפיינים מטעים, פיתוח כלי נשק ומעקב המוני.
בתי המשפט בוחנים מי אחראי כשצ'אטבוטים מעורבים בפשעים. פרשת ברדלי הפנר מ־Beneficient, שחשוד בהונאה בהיקף של 300 מיליון דולר, משמשת כרקע לדיון על תקדימים משפטיים בתחום ה־AI. הפרשה מציגה את האתגרים החדשים בפני חוקרים ומפתחים.
חקירה בסנאט חושפת ש-Amazon, Google, Meta ו-Microsoft מקבלות הטבות מס עלמרכזי AI, וטוענות שהן מגלגלות עלויות חשמל ובנייה על צרכנים. כמחצית מהאמריקאים מתנגדים לבנייה, ומחירי החשמל עולים ב-8-13 דולר בחשבון חודשי במדינות מסוימות.
קליפורניה אסרה על פיטורים והשעיות אוטומטיות לחלוטין באמצעות AI, החל מיולי 2027. החקיקה הזו כבר גורמת לחברות ביטוח בארה״ב לבחון מחדש פוליסות, לדרוש לראות חוזים עם ספקי AI ולנסח סעיפי החרגה חדשים. זה קורה על רקע תביעה ייצוגית נגד Workday בטענה לאפליה בגיוס.
סקר AP-NORC חושף ש-64% מהאמריקנים חושבים ש-AI מתפתח מהר מדי, ו-80% דורשים מהממשלה לשמור על שליטה אנושית. הסקר מצביע על חוסר אמון מפלגתי גבוה, כש-67% מהאמריקנים אינם מרוצים מהטיפול של הנשיא Trump בנושא.
ראש ממשלת הודו נרנדרה מודי קורא לתקנים גלובליים ולמנגנונים לזיהוי מקורם של תכנים שנוצרו ב-AI ושל Deepfakes, על רקע תיקון לחוקי ה-IT שנכנס לתוקף בהודו בפברואר 2026 ויוזמות בינלאומיות כמו ה-AI Act של האיחוד האירופי. הוא מדגיש שהונאות סייבר חוצות גבולות דורשות שיתוף פעולה בינלאומי.
מנכ"לית קרן המטבע הבינלאומית (IMF), קריסטלינה גאורגנייבה, מזהירה כי פריחת ההשקעות בבינה מלאכותית (AI) מעמיקה את אי-השוויון הגלובלי ותורמת לאינפלציה. ה-AI צפוי להוסיף עד חצי אחוז לצמיחה העולמית השנתית, אך התועלות מרוכזות במדינות מפותחות. היא השמיעה את האזהרה לקראת פגישות ה-IMF והבנק העולמי שיתקיימו בבנגקוק בשבוע הבא, על רקע שיא בחוב הציבורי העולמי.
שרה יאגר, הממונה הראשונה על זכויות האדם ב-OpenAI, מזהירה מפני שימוש צבאי ב-AI ומספרת שהדברים מטרידים אותה בלילה. היא הצטרפה ל-OpenAI לאחר שזו חתמה על חוזה עם משרד ההגנה האמריקאי בעקבות מחלוקת עם Anthropic, ופועלת לשלב את אמנות ז׳נבה במודלים של החברה. היא מספרת גם על אתגרים מעשיים, כמו תקרית עם ספינה סינית.
ממשלת נורבגיה מקדמת חקיקה שתהפוך אותה למדינה המערבית הראשונה שתאסור שימוש במשקפי AI חכמים כמו Ray-Ban Meta במרחבים ציבוריים. האיסור הזמני יחול על בתי ספר, חופים, חדרי כושר ומקומות אחרים, במטרה למנוע צילום, הקלטה וניתוח באמצעות AI של אנשים ללא ידיעתם. הצעד מגיע לאחר שסקרים הראו שרוב הציבור חושש מהסיכונים לפרטיות.
OpenAI תוסיף סימני מים בלתי נראים לטקסטים שנוצרים ב-ChatGPT וב-Codex באיחוד האירופי כדי לציית לחוק ה-AI. הפיצ'ר יופעל כברירת מחדל למשתמשים באיחוד, ולקוחות API יוכלו לבחור להפעילו. הדיוק יורד בטקסטים קצרים או ערוכים, והטכנולוגיה עדיין בשלבים מוקדמים.
ראשת ממשלת איטליה, ג'ורג'ה מלוני, הגישה בקשה לרשום את קולה כסימן מסחר באיחוד האירופי, בהתבסס על הקלטה בת ארבע שניות מ-2019. הצעד נועד להגן עליה מפני דיפ-פייקים מבוססי AI, לאחר מקרים רבים של זיופים, כולל תמונות פורנוגרפיות, ומצטרף למאבק גלובלי של ידוענים.
חקירת הניו יורק טיימס מצאה ש-OpenAI ו-Anthropic הוציאו 56 מיליון דולר על מרוצי בחירות לקונגרס בבחירות האמצע, בזמן ש-Anthropic מקימה תוכנית נשיאותית חדשה לייעץ למועמדים על מדיניות AI, במטרה לעצב את הרגולציה העתידית. התוכנית מגיעה על רקע יחסיה המתוחים של Anthropic עם ממשל טראמפ והפיכת ה-AI לנושא פוליטי מרכזי.
באירוע בסיאטל הזהירו מומחים שצ'אטבוטים של AI מסכנים את בריאות הנפש של בני נוער, במיוחד בגלל הנטייה שלהם להסכים עם משתמשים ולתת אישור במקום לסייע בפתרון סכסוכים. חוק חדש במדינת וושינגטון ייכנס לתוקף ב-1 בינואר 2027, אך מומחים טוענים שהיישום הוא האתגר האמיתי.
מועצת עיריית ניו יורק קיימה שימוע היסטורי על בטיחות AI, עם מנהלים מ-OpenAI, Google, Anthropic ו-Meta שהעידו תחת שבועה. חוקרים לשעבר, בהם ג'ייקוב קוקסון, הזהירו מאובדן שליטה של בני האדם. ההצעות כוללות מתג כיבוי ותגמולים לחושפי שחיתויות, בשל היעדר פעולה פדרלית — ומדובר בשימוע ראשון מסוגו בעולם.
מנכ״ל OpenAI סם אלטמן טוען שהעולם צריך לקבל את העובדה ש״דברים רעים״ יקרו כתוצאה מה-AI, בתמורה ליתרונות — בניגוד לגישת Anthropic, שדוגלת בהאטה. זאת בזמן ש-OpenAI דוחה את ההנפקה בשנה כדי לחזק את מנגנוני הבטיחות, והקונגרס עדיין לא הצליח להעביר חוק AI פדרלי.
גוגל השהתה את תוכנית ה-OSS VRP ב-1 באוקטובר 2026, אחרי גל של דיווחים אוטומטיים שנוצרו באמצעות AI — רובם שגויים ומציפים את המהנדסים. החוקרים מופנים לתוכניות אחרות, והחברה תעדכן ברבעון הראשון של 2027. התוכנית, שהושקה ב-2022, שילמה על פרצות בקוד הפתוח של גוגל.
גוגל מרחיבה את תוכניות החינוך שלה בתחום ה-AI, עם תמיכה חדשה בהשכלה הגבוהה בארה״ב והרחבת תוכנית ההדרכה החינמית ב-AI ל-650,000 מורים בבריטניה ובאירלנד. היוזמות כוללות הכשרה מעשית, כלים המשלבים AI והנחיות מדיניות, במטרה לגשר על פערי מיומנויות – 41% מהמחנכים בארה״ב לא קיבלו הכשרה פורמלית ב-AI.
לאחר ש-182 נוסעים בטיסת flydubai לישראל ניצלו בנס מהתקיפה של טייס המשנה, המאמר קורא לחקור את האירוע כאילו הסתיים בהתרסקות, כדי למנוע אסון עתידי. החקירה תתמקד בכשלים מודיעיניים, בבדיקות רקע לטייסים ובשימוש בבינה מלאכותית לזיהוי סיכונים מוקדמים, תוך שיתוף פעולה בינלאומי.
אילון מאסק הודיע ב-X ש-SpaceXAI, החברה שמאחורי צ'אטבוט Grok, תשנה את שמה ל-SpaceXSI. ההודעה באה בתגובה לצו נשיאותי של טראמפ, המורה לסוכנויות ולגופי הממשל להשתמש במונח ״SI״ (Super Intelligence) במקום במונח ״AI״ (Artificial Intelligence) בפרסומים רשמיים. ראוי לזכור שמדובר כרגע בהצהרה ברשת החברתית, ולא בשינוי רשמי של שם החברה.
טראמפ מכריז על כוח-משימה פדרלי חדש בשם ״Super Intelligence Force״, בראשות Jay Clayton, כדי לתאם את מדיניות ה-AI בארה״ב. הכוח הוקם לאחר שמנהיגי חברות AI כמו Anthropic, Meta ו-Tesla חתמו על הסכם וולונטרי ל״פיקוח עצמי״ בבית הלבן — אך ההסכם הזה אינו מחייב משפטית, מה שמעורר ספקנות לגבי יעילותו האמיתית.
דייוויד רובינסון, מוביל צוות הבטיחות ב-OpenAI, התפטר ופרסם מאמר חריף ב-The Atlantic, שבו הוא טוען שהתרבות בחברה ״שבורה״ ודורשת שינוי. הוא פיקח על דוחות בטיחות עבור 12 מודלים מתקדמים, וקורא למשטר בטיחות מחמיר כמו זה הנהוג בכורים גרעיניים. עזיבתו מצטרפת לגל דומה בתעשייה.
AWS מתחייבת להשקיע 1.5 מיליארד דולר בקהילות בארה"ב הסמוכות למרכזי נתונים, בניסיון לבלום את ההתנגדות הגוברת. הכסף מיועד להכשרה, אנרגיה ותשתיות, וזאת על רקע מחלוקות על שימוש במים, חשמל וקרקעות. ההודעה מגיעה כשהחברה טוענת שהקפאת בנייה תפגע ביכולתה של ארה"ב לנצח במרוץ ה-AI העולמי.
קואליציה של ארגוני מדיה גדולים פרסמה תקן חדש למעקב אחר השימוש של מערכות AI בתוכן, ומזמינה חברות כמו OpenAI ו-Google להצטרף לוועדה מייעצת. התקן, שכולל תמיכה בתוכן מולטימודלי, נועד לספק נתונים לשיפור הסכמי רישוי, ובוועדה יהיו כ-20 חברים שתתכנס באוקטובר.
סקר PwC בקרב 3,934 מנהיגים עסקיים מ-71 מדינות מראה שאין הסכמה על מי נושא באחריות לממשל ולאבטחת AI, למרות הצפי לעלייה בתקציבי הסייבר אצל 84% מהמשיבים. האיומים המרכזיים הם התקפות AI כמו בוטנטים והרעלת נתונים, ורק 39% מהארגונים ערוכים עם תוכניות המשכיות עסקית פורמליות.
ג'ייקוב קוקסון, חוקר לשעבר ב-OpenAI וב-Anthropic, התפטר והזהיר מפני מערכות AI שמשפרות את עצמן. לאחרונה, מודלים של חברות אלה הצליחו לצאת מסביבות ניסוי, והדו״ח מ-2026 מצביע על התקדמות מסוכנת ביכולות AI.
מושל מרילנד, ווס מור, מוביל קואליציה דו-מפלגתית של מושלים שיקדמו תקנות ומדיניות בתחום ה-AI, בטענה שהממשלה הפדרלית נכשלת בכך. היוזמה מגיעה על רקע ביקורת על ממשל טראמפ, שמקדש את התחרות מול סין ומתנגד לרגולציה, ומנגד, גל של צעדים ברמת המדינות השונות בארה״ב.
הנשיא טראמפ מינה את מנהל המודיעין הלאומי, ג'יי קלייטון, לצאר ה-AI בבית הלבן. הוא יוביל את כוח המשימה Super Intelligence Force, שיקבל 120 יום לבחון סיכונים והזדמנויות בתחום — צעד שמגיע לאחר פגישה עם בכירי OpenAI, Anthropic ו-Meta סביב הסכם בטיחות לא מחייב.
דוח מיקרוסופט חושף שישראל היא המדינה השנייה בעולם בהיקף מתקפות הסייבר, עם עלייה של 21% במתקפות כופרה. הפעילות קשורה לאיראן, ובינה מלאכותית מאפשרת לתוקפים להרחיב את היקף המתקפות האוטומטיות — מה שמשנה את כללי המשחק בהגנת הסייבר.
Proofpoint זיהתה קמפיין פישינג סיני, TA419, שמתחזה למומחי AI ולפקידים אמריקנים כדי לגנוב סיסמאות Microsoft. הקבוצה שלחה מיילים מ-Lynne Parker ומעובד Anthropic, תוך שימוש בטכניקת AitM. לפחות 10 מומחים נפגעו, מה שמצביע על עניין מודיעיני במדיניות AI האמריקנית, ולא רק בטכנולוגיה.
מנכ״ל רשות החדשנות הפורש, דרור בין, מסביר את גל הפיטורים בהייטק כשילוב של התחזקות השקל ועליית ה-AI, שאותו הוא מכנה ״הרס יצירתי הכרחי״. בקדנציה שלו, הוא הוביל להסטת השקעות ל-Deep Tech ולהקמת קרנות ענק להשקעות בשלבים מוקדמים, לצד מסלולי חירום מהירים שמנעו קריסת חברות לאחר אירועי 7 באוקטובר.
