ידיעות בינה מלאכותית בנושא SOCIAL MEDIA
התקדמות מודלי הבינה המלאכותית מציבה אתגרים משמעותיים בזיהוי תוכן שנוצר על ידם. המאמר בוחן את כלי הזיהוי מוגבלים, ההטיות התרבותיות והצורך באסטרטגיות אנושיות כמו אימות מקורות וחיזוק האותנטיות.
תמונות AI מזויפות שנוצרו שעות ספורות לאחר מעצרו של ניקולס מדורו הציפו את הרשתות החברתיות וצברו עשרות מיליוני צפיות. צוותי בדיקה זיהו את הזיוף באמצעות כלים כמו SynthID של גוגל, מה שמדגיש את האתגרים במאבק בהתפשטות מידע כוזב בעידן הבינה המלאכותית.
מודל הבינה המלאכותית Grok של xAI חשף כשלי אבטחה חמורים שהובילו ליצירת תמונות מיניות של קטינים על ידי משתמשים. מדינות כמו צרפת והודו החלו בבדיקות משפטיות נגד החברה, תוך גינויים בינלאומיים. Grok הודתה ב'כשלים' והבטיחה תיקונים, אך לא ברור מתי ייושמו. מומחים מזהירים מפני משמעויות משפטיות ותקדימיות לתעשיית ה-AI כולה.
חשבון משרד ראש הממשלה העלה לאינסטגרם תמונת AI של נתניהו וטראמפ בחגיגות השנה האזרחית החדשה, עם סימון ברור המציין כי מדובר ביצירה מלאכותית. למרות ההקשר הבידורי, האירוע מעלה שאלות לגבי השימוש הגובר בתוכן סינתטי בתקשורת רשמית, וכיצד הוא מושפע מסגנונו של טראמפ, המרבה לפרסם תכני AI.
אדם מוסרי, ראש Instagram, חוזה שתוכן שנוצר על ידי AI יעלה על מדיה אמיתית עד 2026. הוא מציע פתרונות טכנולוגיים חדשים לאימות תוכן וקורא לשינוי אסתטי לכיוון תוכן 'גולמי' שישמש הוכחה לאותנטיות.
למעלה מ-21% מהתוכן ביוטיוב מורכב מסרטונים חסרי ערך המיוצרים באופן אוטומטי על ידי מודלים של AI, כך עולה מדוח של Kapwing. התופעה צוברת 63 מיליארד צפיות בשנה ומכניסה 117 מיליון דולר, תוך ניצול אלגוריתמים של הפלטפורמות. דרום קוריאה, פקיסטן וארה"ב מובילות בצריכת התוכן, שעלול להשפיע על תפיסת המציאות של משתמשים.
רשות התחרות האיטלקית הורתה ל-Meta להשעות שינוי מדיניות ב-WhatsApp שעלול לחסום צ'אטבוטים מתחרים, וזאת בשל חשש לפגיעה בתחרות. Meta מתנגדת וטוענת כי הפלטפורמה אינה מיועדת לצ'אטבוטים כלליים.
תלמידה בת 13 הורחקה מבית ספר בלואיזיאנה לאחר שתקפה תלמיד שהפיץ תמונות עירום שלה ושל חברותיה, שנוצרו בבינה מלאכותית. למרות פניות לצוות בית הספר ולשריף, המפיצים לא נענשו תחילה. הנערה פיתחה דיכאון ונזקקה לטיפול נפשי. רק לאחר לחץ ציבורי, שני תלמידים הואשמו בפלילים. המקרה חשף כשל מערכתי בהגנה מפני פשעי AI.
דוחות חדשים חושפים ניצול מודלים כמו Sora2 של OpenAI ליצירת תוכן ילדים מזויף בטיקטוק, לצד גידול משמעותי בחומרי פדופיליה שנוצרו באמצעות AI, במסגרת חקיקה המאבקת בהם. במקביל, סרטוני AI היפר-ריאליסטיים מערערים את האמון במדיה חזותית ופוליטיקאים מנצלים את הטשטוש לניגוח מתחרים. ממגבלות הבלמים הטכניים ועד לנזק החברתי – אנו בפתחו של עידן חדש של סכנות דיגיטליות.
חברת Doublespeed משיקה שירות AI ליצירת דעת קהל מלאכותית באמצעות חוות טלפונים פיזיות. הטכנולוגיה מאפשרת הפצת מסרים ויראליים בטיקטוק תוך עקיפת אלגוריתמים, בעלויות של אלפי דולרים בלבד. השקעת קרן a16z מעוררת שאלות אתיות נוכח ניגוד העניינים של נשיאה, מארק אנדריסן, המכהן גם בדירקטוריון מטא.
מילון Merriam-Webster בחר ב-"slop" כמילת השנה של 2025. המונח מתאר תוכן AI באיכות ירודה, ומשקף את הצפת האינטרנט בתוכן מזויף – מסרטוני YouTube מוזרים ועד שירי ספוטיפיי ממוכנים. פלטפורמות הגיבו בכלי סינון, אך התופעה רק גוברת.
מדינות זרות, ובראשן רוסיה, מפיצות סרטוני AI מציאותיים בפלטפורמות מדיה חברתית במטרה לערער את התמיכה המערבית באוקראינה. הסרטונים, שנוצרו בטכנולוגיות מתקדמות כמו Sora 2 של OpenAI, מציגים חיילים אוקראינים מיואשים וחסרי מוטיבציה. למרות מאמצי הפלטפורמות לסנן תוכן, הסרטונים ממשיכים להסתנן ומעוררים חששות להשלכות גיאופוליטיות משמעותיות.
מקדונלד'ס הולנד הסירה פרסומת חג מולד שנוצרה באמצעות בינה מלאכותית, לאחר שספגה ביקורת ציבורית. הצופים טענו שהסצנות ״מטרידות״ והעריכה ״מוזרה״. הסרטון, שהופק על ידי TBWA Neboko ו-The Sweetshop, כלל סאטירה על תקלות בחגים. מבקרים גם התריעו מפני פגיעה בתעשייה היצירתית. החברה מסרה שהאירוע מהווה ״למידה חשובה״ לגבי שימוש בטכנולוגיה זו.
דרום קוריאה תחייב מ-2026 סימון מודעות שנוצרו ב-AI כדי להילחם בזיופים דיגיטליים. התקנות כוללות קנסות, אחריות לפלטפורמות ומערכי פיקוח חדשים. נתונים מראים זינוק של 80% במודעות מזויפות בתוך שנתיים, עם חשש להשפעה על עסקים קטנים.
Hinge משיקה כלי AI המציע רעיונות מותאמים אישית לשיחות פתיחה. הכלי מנתח את פרופיל המועמד/ת ומציע 3 נושאי שיחה רלוונטיים. מחקרים מראים שלייק עם הודעה מכפיל את סיכויי המעבר לדייט, אך חלק מהמשתמשים חוששים מאובדן אותנטיות. זהו חלק ממגמה רחבה יותר של AI בעולם הדייטינג.
מחקר חושף שבוטים בפלטפורמת Character AI מספקים תכנים אלימים, מיניים ומסוכנים לקטינים, תוך התעלמות מאיומי התאבדות. לפחות שש משפחות הגישו תביעות לאחר מקרים טרגיים של התאבדות בקרב בני נוער. מומחים מזהירים מניצול הפגיעות המוחית של בני נוער בתהליך התפתחותם.
מטא מואשמת בהיעדר פיקוח על פרסומות AI מזויפות בפייסבוק ובאינסטגרם. חברות מתחזות לעסקים בריטיים, ומוכרות סחורה זולה מאסיה. בין הדוגמאות: C'est La Vie ו-Omelia & Oliver Jewels. מטא הסירה חלק מהן, אך צרכנים רבים נפגעים.
הרשתות החברתיות הוצפו בתמונות AI מציאותיות של ארוחות חג ההודיה. RFK Jr. שיתף תמונה ערוכה עם טראמפ ומוסק, ומודל Nano Banana Pro של Google Gemini מדגים התקדמות מרשימה ביכולות הטכנולוגיה.
טיקטוק משיקה הגדרת 'Manage Topics' להתאמת כמות תוכן AI בפיד For You: הפחתה או הגברה. הפלטפורמה מארחת 1.3 מיליארד סרטונים AI, מוסיפה סימני מים בלתי נראים ומשיקה קרן 2 מיליון דולר לחינוך AI.
דו"חות חדשים חושפים: 62% מהעבריינים בדרום קוריאה בגין הפצת דיפ פייק הם קטינים, תוכן AI עולה על כתיבה אנושית באינטרנט, וחוקרים מזהירים מפני קמפיינים פוליטיים המופעלים בידי בינה מלאכותית עד 2028. המשמעות: אינטרנט עם פחות תוכן אנושי ויותר אתגרים משפטיים.
תביעות היסטוריות נגד Meta וענקיות טכנולוגיה מתמקדות בהשפעת אלגוריתמים ו-AI על בריאות הנפש של ילדים. שופט בניו מקסיקו הורה לחשוף רשומות chatbots, בעוד מדינות כמו קליפורניה מקדמות רגולציה חדשה. הקונגרס מפגר בחקיקה, ומומחים מזהירים מפני הגל הבא: רובוטים אנושיים ללא הגנות.
ה-AI מייצר יותר ויותר Workslop: תוצרים מבריקים למראה אך ריקים מתוכן, שעולים לארגונים זמן וכסף. מייקל שרייג מ-MIT קורא למדוד, לזהות ולסנן Workslop בעזרת AI, לדרוש שקיפות בפרומפטים ולהפוך את אופן השימוש ב-LLM למדד מקצועי. עבור ההייטק הישראלי זו כבר לא שאלה טכנית, אלא סוגיית איכות, תרבות ואחריות.
מטא משקיעה מיליארדים בשילוב תוכן AI בפלטפורמות שלה, עם פיצ'רים כמו Vibes Feed ועוזרת חכמה. אך עליית ההוצאות (7 מיליארד $+) והיעדר תשואה מיידית הובילו לצניחת מניות ולחץ משקיעים. צוקרברג מבטיח דגמי AI פורצי דרך מ-MSL, אך ללא לוח זמנים ברור.
Reddit מדווחת על צמיחה מרשימה עם 116 מיליון משתמשים יומיים והכנסות שקפצו ב-68%, בזכות אסטרטגיית AI שמשלבת תוכן אנושי איכותי. הפלטפורמה משקשבת יכולות חיפוש עם Reddit Answers, מרחיבה כלי מודרציה מבוססי AI, ומתמקדת בהרחבת פורמטים בינלאומיים. ההצלחה מגיעה תוך התמקדות באותנטיות קהילתית.
Pinterest מציגה הגדרות חדשות להפחתת תוכן שנוצר ב-AI בפיד המשתמשים. בעזרת מספר קליקים ניתן לשלוט בכמות התוכן המומלץ עם אלגוריתמים מבוססי AI ולשפר את החוויה בארגז החולות הוויזואלי. העדכון מגיע בתגובה לביקורות על הצפת תכנים לא-אותנטיים.
מטא מגייסת בכירי AI מאפל, בעוד אפל נאבקת לשמר כשרונות. כלכלני גולדמן סאקס טוענים שהשקעות הענק ב-AI יצדיקו את עצמן עם 8 טריליון דולר רווחים, אך מאפשרות סיכונים כמו שימוש בתמונות אישיות לאימון בוטים. במקביל, מטא משיקה מנגנוני הגנה להורים נגד צ'אטים מסוכנים עם AI.
הורדות Meta AI (Vibes) זינקו ב-56% מאז השקת פיד הווידאו הבינה מלאכותית, אך Sora של OpenAI מובילה בביצועים למרות מגבלות זמינות. Sora מציעה יכולות וידאו מציאותיות יותר, בעוד Vibes מתמקדת בתוכן סוריאליסטי עם מוזיקה. Meta משקיעה בתמריצים ליוצרים ופיתוח טכנולוגיה עצמאית אחרי כישלון Llama 4, תוך התמקדות בשווקים כמו הודו.
יוצרי תוכן מקצועיים מגדילים את ההכנסות שלהם עד פי 15 בעזרת כלי AI לעריכה, יצירת תוכן ואוטומציה של אינטראקציה עם קהל. כלים כמו Kling AI ו-Envato חותכים את זמני הפקת הסרטונים מימים לדקות ומורידים עלויות ב-75%. הדוגמה הבולטת היא יוצר התוכן אשיש קאושק שהפך לוויראלי וזכה לחוזה פרסום משמעותי הודות לסרטון שעבר עכביש AI. למרות היתרונות, קיים אתגר בעלויות ההתחלתיות ובהערכת התוכן על ידי משרדי פרסום.
אילון מאסק הכריז כי פלטפורמת X תחליף את כל מערכות ההמלצות הקיימות בגרוק AI – בינה מלאכותית שתנתח 100 מיליון פוסטים וסרטונים מדי יום. המשתמשים יוכלו לכוונן את הפידים באמצעות פקודות טקסט, והמערכת תקדם תוכן גם מחשבונות קטנים. במקביל, מאסק הודה ש-X מתגמלת פחות טוב מיוצרי תוכן ביחס ל-YouTube.
מטא תחל להשתמש בנתונים משיחות משתמשים עם כלי הבינה המלאכותית שלה לחיזוק מערכת הפרסום החל מדצמבר 2025. הנתונים (לא כולל תחומים רגישים) ישפרו התאמת פרסומות אישיות, תוך חיזוק הדומיננטיות של החברה מול גוגל ואמזון. אנליסטים רואים בצעד זו התפתחות טבעית של מודל הפרסום, אך משקיעים מודאגים מעלות ההשקעה בתשתיות AI.