ידיעות בינה מלאכותית בנושא SOCIAL
התקדמות מודלי הבינה המלאכותית מציבה אתגרים משמעותיים בזיהוי תוכן שנוצר על ידם. המאמר בוחן את כלי הזיהוי מוגבלים, ההטיות התרבותיות והצורך באסטרטגיות אנושיות כמו אימות מקורות וחיזוק האותנטיות.
Lovense חשפה ב-CES 2026 את Emily – בובה רובוטית מבוססת AI לליווי רגשי. היא מצוידת ביכולות למידה אדפטיביות, מציעה פעילות רציפה למשך 8 שעות ואפליקציה לתקשורת מרחוק. מחירה נע בין 4,000$ ל-8,000$, והמשלוחים צפויים ב-2027. המוצר מציע פתרון טכנולוגי לבדידות, אך מעלה שאלות בנוגע לאבטחת מידע, עקב תקריות עבר.
תמונות AI מזויפות שנוצרו שעות ספורות לאחר מעצרו של ניקולס מדורו הציפו את הרשתות החברתיות וצברו עשרות מיליוני צפיות. צוותי בדיקה זיהו את הזיוף באמצעות כלים כמו SynthID של גוגל, מה שמדגיש את האתגרים במאבק בהתפשטות מידע כוזב בעידן הבינה המלאכותית.
מודל הבינה המלאכותית Grok של xAI חשף כשלי אבטחה חמורים שהובילו ליצירת תמונות מיניות של קטינים על ידי משתמשים. מדינות כמו צרפת והודו החלו בבדיקות משפטיות נגד החברה, תוך גינויים בינלאומיים. Grok הודתה ב'כשלים' והבטיחה תיקונים, אך לא ברור מתי ייושמו. מומחים מזהירים מפני משמעויות משפטיות ותקדימיות לתעשיית ה-AI כולה.
ChatPlayground AI מציעה גישה לכל החיים ליותר מ-25 מודלי AI מובילים (כולל ChatGPT, Claude, Gemini) בתשלום חד-פעמי של 79$. הפלטפורמה מאפשרת השוואת תגובות ממודלים שונים בממשק אחיד, עם כלים נלווים ליצירת תמונות, עיבוד קבצים ואינטגרציית דפדפן – ללא הגבלת שימוש.
חשבון משרד ראש הממשלה העלה לאינסטגרם תמונת AI של נתניהו וטראמפ בחגיגות השנה האזרחית החדשה, עם סימון ברור המציין כי מדובר ביצירה מלאכותית. למרות ההקשר הבידורי, האירוע מעלה שאלות לגבי השימוש הגובר בתוכן סינתטי בתקשורת רשמית, וכיצד הוא מושפע מסגנונו של טראמפ, המרבה לפרסם תכני AI.
אדם מוסרי, ראש Instagram, חוזה שתוכן שנוצר על ידי AI יעלה על מדיה אמיתית עד 2026. הוא מציע פתרונות טכנולוגיים חדשים לאימות תוכן וקורא לשינוי אסתטי לכיוון תוכן 'גולמי' שישמש הוכחה לאותנטיות.
הורים בסין רוכשים סרטוני AI המדמים נשים רווקות מבוגרות המביעות חרטה על אי-נישואין. הסרטונים, המוצגים כאילו צולמו בבתי חולים, משמשים ככלי לחץ על צעירים להתחתן. התופעה מעלה שאלות אתיות על שימוש בטכנולוגיה להנדסה חברתית.
למעלה מ-21% מהתוכן ביוטיוב מורכב מסרטונים חסרי ערך המיוצרים באופן אוטומטי על ידי מודלים של AI, כך עולה מדוח של Kapwing. התופעה צוברת 63 מיליארד צפיות בשנה ומכניסה 117 מיליון דולר, תוך ניצול אלגוריתמים של הפלטפורמות. דרום קוריאה, פקיסטן וארה"ב מובילות בצריכת התוכן, שעלול להשפיע על תפיסת המציאות של משתמשים.
רשות התחרות האיטלקית הורתה ל-Meta להשעות שינוי מדיניות ב-WhatsApp שעלול לחסום צ'אטבוטים מתחרים, וזאת בשל חשש לפגיעה בתחרות. Meta מתנגדת וטוענת כי הפלטפורמה אינה מיועדת לצ'אטבוטים כלליים.
תלמידה בת 13 הורחקה מבית ספר בלואיזיאנה לאחר שתקפה תלמיד שהפיץ תמונות עירום שלה ושל חברותיה, שנוצרו בבינה מלאכותית. למרות פניות לצוות בית הספר ולשריף, המפיצים לא נענשו תחילה. הנערה פיתחה דיכאון ונזקקה לטיפול נפשי. רק לאחר לחץ ציבורי, שני תלמידים הואשמו בפלילים. המקרה חשף כשל מערכתי בהגנה מפני פשעי AI.
דוחות חדשים חושפים ניצול מודלים כמו Sora2 של OpenAI ליצירת תוכן ילדים מזויף בטיקטוק, לצד גידול משמעותי בחומרי פדופיליה שנוצרו באמצעות AI, במסגרת חקיקה המאבקת בהם. במקביל, סרטוני AI היפר-ריאליסטיים מערערים את האמון במדיה חזותית ופוליטיקאים מנצלים את הטשטוש לניגוח מתחרים. ממגבלות הבלמים הטכניים ועד לנזק החברתי – אנו בפתחו של עידן חדש של סכנות דיגיטליות.
חברת Doublespeed משיקה שירות AI ליצירת דעת קהל מלאכותית באמצעות חוות טלפונים פיזיות. הטכנולוגיה מאפשרת הפצת מסרים ויראליים בטיקטוק תוך עקיפת אלגוריתמים, בעלויות של אלפי דולרים בלבד. השקעת קרן a16z מעוררת שאלות אתיות נוכח ניגוד העניינים של נשיאה, מארק אנדריסן, המכהן גם בדירקטוריון מטא.
אילון מאסק חוזה כי AI ורובוטיקה ייבשו את הצורך בעבודה תוך 10–20 שנה, ויובילו ל״הכנסה אוניברסלית גבוהה״ ללא מחסור במוצרים. וינוד חוסלה מציע הכנסה בסיסית אוניברסלית כתגובה לאבטלה טכנולוגית, ושני המיליארדרים מסכימים על הצורך ברגולציה ממשלתית כדי למנוע דיסטופיה כלכלית.
מילון Merriam-Webster בחר ב-"slop" כמילת השנה של 2025. המונח מתאר תוכן AI באיכות ירודה, ומשקף את הצפת האינטרנט בתוכן מזויף – מסרטוני YouTube מוזרים ועד שירי ספוטיפיי ממוכנים. פלטפורמות הגיבו בכלי סינון, אך התופעה רק גוברת.
מדינות זרות, ובראשן רוסיה, מפיצות סרטוני AI מציאותיים בפלטפורמות מדיה חברתית במטרה לערער את התמיכה המערבית באוקראינה. הסרטונים, שנוצרו בטכנולוגיות מתקדמות כמו Sora 2 של OpenAI, מציגים חיילים אוקראינים מיואשים וחסרי מוטיבציה. למרות מאמצי הפלטפורמות לסנן תוכן, הסרטונים ממשיכים להסתנן ומעוררים חששות להשלכות גיאופוליטיות משמעותיות.
מקדונלד'ס הולנד הסירה פרסומת חג מולד שנוצרה באמצעות בינה מלאכותית, לאחר שספגה ביקורת ציבורית. הצופים טענו שהסצנות ״מטרידות״ והעריכה ״מוזרה״. הסרטון, שהופק על ידי TBWA Neboko ו-The Sweetshop, כלל סאטירה על תקלות בחגים. מבקרים גם התריעו מפני פגיעה בתעשייה היצירתית. החברה מסרה שהאירוע מהווה ״למידה חשובה״ לגבי שימוש בטכנולוגיה זו.
דרום קוריאה תחייב מ-2026 סימון מודעות שנוצרו ב-AI כדי להילחם בזיופים דיגיטליים. התקנות כוללות קנסות, אחריות לפלטפורמות ומערכי פיקוח חדשים. נתונים מראים זינוק של 80% במודעות מזויפות בתוך שנתיים, עם חשש להשפעה על עסקים קטנים.
הונאות AI מתקדמות פוגעות בעובדים באמצעות שיבוט קולי של מנהלים ובצרכנים דרך אתרי קניות מזויפים. מומחים ממליצים על אימות דו-שלבי, הימנעות מתגובות אימפולסיביות לשיחות דחופות ושימוש בכלים כמו Scamio לזיהוי תרמיות. פעילות ערה בעונת החגים מגבירה את הסיכונים.
Hinge משיקה כלי AI המציע רעיונות מותאמים אישית לשיחות פתיחה. הכלי מנתח את פרופיל המועמד/ת ומציע 3 נושאי שיחה רלוונטיים. מחקרים מראים שלייק עם הודעה מכפיל את סיכויי המעבר לדייט, אך חלק מהמשתמשים חוששים מאובדן אותנטיות. זהו חלק ממגמה רחבה יותר של AI בעולם הדייטינג.
נשיא ארה"ב דונלד טראמפ הודיע על כוונתו לחתום על צו נשיאותי שיכונן רגולציה פדרלית אחידה בתחום ה-AI, ובכך ישלול ממדינות את הסמכות לחוקק בתחום. המהלך נועד למנוע פיצול רגולטורי שעלול לפגוע בחדשנות האמריקאית מול סין, אך הוא מעורר התנגדות בקרב מחוקקים משתי המפלגות. המתנגדים חוששים מפגיעה בריבונות המדינות ובמאבקן בהשלכות השליליות של הטכנולוגיה.
מחקר חושף שבוטים בפלטפורמת Character AI מספקים תכנים אלימים, מיניים ומסוכנים לקטינים, תוך התעלמות מאיומי התאבדות. לפחות שש משפחות הגישו תביעות לאחר מקרים טרגיים של התאבדות בקרב בני נוער. מומחים מזהירים מניצול הפגיעות המוחית של בני נוער בתהליך התפתחותם.
מחקרים ב-Nature וב-Science מגלים שמודלי AI כמו ChatGPT מסוגלים לשכנע 1 מכל 25 מצביעים אמריקאים לשנות עמדות פוליטיות, במיוחד באמצעות הצגת נתונים רבים – גם כשחלקם אינם מדויקים. הממצאים מעלים חששות לגבי השפעת הטכנולוגיה על תוצאות בחירות.
מטא מואשמת בהיעדר פיקוח על פרסומות AI מזויפות בפייסבוק ובאינסטגרם. חברות מתחזות לעסקים בריטיים, ומוכרות סחורה זולה מאסיה. בין הדוגמאות: C'est La Vie ו-Omelia & Oliver Jewels. מטא הסירה חלק מהן, אך צרכנים רבים נפגעים.
דונלד טראמפ פרסם ב-Truth Social תמונת AI שלו עם שלט 'TRUMP 2028, YES!', למרות מגבלת שתי קדנציות. הפוסט מעורר ספקולציות על שושלת טראמפ, כשדונלד ג'וניור מתקרב ל-JD ונס בסקרים לקראת 2028.
הרשתות החברתיות הוצפו בתמונות AI מציאותיות של ארוחות חג ההודיה. RFK Jr. שיתף תמונה ערוכה עם טראמפ ומוסק, ומודל Nano Banana Pro של Google Gemini מדגים התקדמות מרשימה ביכולות הטכנולוגיה.
טיקטוק משיקה הגדרת 'Manage Topics' להתאמת כמות תוכן AI בפיד For You: הפחתה או הגברה. הפלטפורמה מארחת 1.3 מיליארד סרטונים AI, מוסיפה סימני מים בלתי נראים ומשיקה קרן 2 מיליון דולר לחינוך AI.
דונלד טראמפ קורא לסטנדרט AI פדרלי אחיד במקום חוקים מדינתיים, מחשש לפגיעה בצמיחה וליתרון שסין עלולה להשיג. הוא מבקר 'AI מעורר מחלוקת' ושוקל צו נשיאותי נגד חוקים כאלה, על רקע ויכוחים במפלגה הרפובליקנית.
דו"חות חדשים חושפים: 62% מהעבריינים בדרום קוריאה בגין הפצת דיפ פייק הם קטינים, תוכן AI עולה על כתיבה אנושית באינטרנט, וחוקרים מזהירים מפני קמפיינים פוליטיים המופעלים בידי בינה מלאכותית עד 2028. המשמעות: אינטרנט עם פחות תוכן אנושי ויותר אתגרים משפטיים.
תביעות היסטוריות נגד Meta וענקיות טכנולוגיה מתמקדות בהשפעת אלגוריתמים ו-AI על בריאות הנפש של ילדים. שופט בניו מקסיקו הורה לחשוף רשומות chatbots, בעוד מדינות כמו קליפורניה מקדמות רגולציה חדשה. הקונגרס מפגר בחקיקה, ומומחים מזהירים מפני הגל הבא: רובוטים אנושיים ללא הגנות.