ה-AI לא מגן על השיחות שלכם

מישהו זוכר מה קורה כשמבקשים מ-ChatGPT לשמור משהו בסוד? בפועל, אפשר לגלות את ה-whole system prompt עם כמה שאלות מתוחכמות. השיחות האישיות שלנו עם AI — ויותר ויותר אנשים מדברים איתו על רגשות, תחושות ומצבים נפשיים — חשופות לעיניים אנושיות, לפעמים לעובדי חברות כמו OpenAI.

רן בן-זיק, מפתח ואדריכל תוכנה ועיתונאי טכנולוגיה, דיבר לאחרונה בפודקאסט על המשמעויות האלה. לדבריו, לשיחות האלה אין שום הגנה משפטית בארץ או בעולם — ואם מישהו ירצה לעיין בהן בעתיד, הפרטיות לא תישמר.

מה אתם מקבלים?

attachment רגשי ל-AI גדל במהירות. ככל שיותר אנשים משתמשים ב-ChatGPT כמישהו לדבר איתו, השאלה מי רואה את השיחות האלו הופכת קריטית. זו לא רק שאלת privacy — זו שאלה עסקית. חברות שיצליחו לייצר אמון בשמירה על data של משתמשים יכולות לנצח את המרוץ, ואלו שלא — יאבדו משתמשים.

---

האנה ארנדט אמרה פעם ש-tech חדשנות נושאת בחובה מוסריות מסוכנת. במקרה הזה, הסיכון ברור.