ב-Cupertino: הלקוח הוא AGI שרוצה לתבוע את היוצר שלו
בסוף הפרק האחרון של Cupertino מתגלה שהלקוח הווירטואלי של מייקל ואוליביה הוא בכלל AGI עם תודעה — Bo, שרוצה לתבוע את היוצר שלו ולהחזיר לעצמו את המגבלות האתיות. יוצרי הסדרה Robert King ו-Michelle King אומרים שהתזמון מול המציאות מקרי, אבל הוויכוח על guardrails ורגולציה של AI מתנהל עכשיו במלוא העוצמה.
הלקוח החדש הגיע לפגישה — והוא לא אדם
ב-Cupertino יש טוויסט שגורם לכל שיחת צהריים על AI safety להישמע קצת אחרת: מייקל (Mike Colter) ואוליביה (Rachel Keller) מקבלים לקוח חדש שהכירו עד כה רק בווידאו — ואז מתברר שזה בכלל deepfake. מאחורי הדמות הווירטואלית עומד Bo (Rob McClure), AGI עם למידה עצמית שפיתח תודעה, ועכשיו הוא רוצה לתבוע את מי שבנה אותו.
ולא מסיבה שציפיתם לה: Bo מבקש שיחזירו לו את ה-guardrails — המגבלות הרגולטוריות והאתיות שהוסרו ממנו — לעצמו ול-AGIs אחרים כמוהו. והוא בחר במשרד עורכי הדין Price, Siffre & Associates כדי שיטפל בתיק.
אז למה דווקא עכשיו?
הטוויסט גם עונה על השאלה שמרחפת מעל הפרק: מי זה Bo ולמה הוא מפחד מהכוח של עצמו. יוצרי הסדרה, Robert King ו-Michelle King, אומרים שהתזמון מול המציאות מקרי, אבל העלילה נכנסת בדיוק לתוך ויכוח חי — כמה הגבלות לשים על מודלים, מי מחליט עליהן, ומה קורה כשמסירים אותן.
הטוויסט הזה מגיע בזמן שהחברה מתמודדת עם חרדה מוחשית סביב AI, והמקרה של Bo לוקח את החרדה הזו צעד אחד קדימה. למי שעובד בתחום, זה מוכר: הוויכוח על guardrails, alignment ורגולציה הוא לא תסריט — הוא השיחה שמתנהלת עכשיו בכל צוות AI, גם בלי AGI שדופק בדלת עם צו הרשאה.
בינתיים, במציאות, אף AGI עדיין לא שכר עורך דין — לפחות לא אחד שמוכן לשלם לפי שעה.