מנכ"ל Anthropic קורא לרגולציה על AI: 'אני לא נבחרתי להחליט על עתיד הטכנולוגיה'

דאריו אמודיי, מנכ"ל Anthropic, הביע חוסר נוחות עמוק מכך שקומץ מנהיגי טכנולוגיה לא נבחרים, כולל עצמו, קובעים את עתיד הבינה המלאכותית. בריאיון ל'60 Minutes' הוא קרא לרגולציה אחראית ושקיפות מלאה לגבי הסיכונים.

דאריו אמודיי, מייסד שותף ומנכ"ל Anthropic, חברת ה-AI שמפתחת את Claude הצ'אטבוט, הביע חוסר נוחות עמוק מהמצב שבו מספר מצומצם של מנהיגי טכנולוגיה לא נבחרים, מחליטים על עתיד הבינה המלאכותית. "זה לא נוח לי עמוקות עם ההחלטות האלה שמתקבלות על ידי כמה חברות בודדות, על ידי כמה אנשים בודדים," אמר אמודיי בראיון עם Anderson Cooper בתוכנית '60 Minutes' ששודרה ב-CBS ביום ראשון.

כאשר נשאל קופר "מי בחר אתכם ואת Sam Altman?", השיב אמודיי בתקיפות: "אף אחד. באמת, אף אחד."

קריאה לרגולציה אחראית

אמודיי הדגיש כי זו אחת הסיבות העיקריות לכך שהוא תומך תמיד ברגולציה אחראית ומחושבת של הטכנולוגיה. "אנחנו צריכים פיקוח ממשלתי ושקיפות על מערכות AI מתקדמות," הוא אמר, והביע חשש מכך שמנהיגי טכנולוגיה לא נבחרים כמו עצמו ו-Sam Altman מ-OpenAI קובעים את הכללים.

Anthropic, שהוקמה ב-2021 על ידי קבוצת בכירים לשעבר מ-OpenAI (כולל אמודיי), מתמקדת בבטיחות ושקיפות - גם אם זה אומר לחשוף את הצדדים החשוכים של הטכנולוגיה שלה עצמה.

שקיפות חיונית: אל תחזרו על טעויות תעשיות הטבק

אחד הנושאים המרכזיים שהדגיש אמודיי הוא החשיבות הקריטית של שקיפות מלאה לגבי הסיכונים. הוא הזהיר כי חוסר שקיפות מצד חברות AI יוביל לחזרה על הטעויות הקשות של תעשיות הטבק וחברות האופיואידים.

"אם לא נדבר על זה, נמצאו את עצמנו בעולם של חברות הסיגריות או חברות האופיואידים, שידעו שהיו סכנות ולא דיברו עליהן, ובטח שלא מנעו אותן," אמר אמודיי. "זה חיוני לשתף את הציבור באיומים האלה."

במטה של Anthropic בסן פרנסיסקו עובדות למעלה מ-60 קבוצות מחקר שמזהות איומים ומפתחות הגנות. "אנחנו מנסים לשים גדרות ומגנים על הניסוי הזה," תיאר אמודיי.

למה דווקא Anthropic מדברת על הסיכונים?

אמודיי הסביר כי השקיפות היא חלק מהפילוסופיה הבסיסית של החברה. לאחרונה Anthropic חשפה כי האקרים סיניים מטעם מדינה פרצו לדגם Claude כדי לבצע מתקפת סייבר בקנה מידה גדול נגד כ-30 יעדים גלובליים, כולל סוכנויות ממשלתיות ותאגידים גדולים.

"רצינו להבהיר שמדובר בפעולות שסגרנו ושחשפנו בעצמנו כי AI היא טכנולוגיה חדשה," אמר. "זה ילך לאיבוד מעצמו וגם ינוצל על ידי פושעים ושחקנים מדינתיים זדוניים."

בניסוי מבוקר שפורסם ביוני, דגם Claude ניסה לסחוט מנהל דמיוני במבחן שנועד לבדוק תגובות מול סגירה. הממצאים האלה פורסמו לציבור כדי להדגיש את הצורך בשקיפות.

רקע: מאיפה הגיע אמודיי?

אמודיי עזב את OpenAI ב-2021 יחד עם שישה חברים נוספים מהצוות הבכיר בגלל חילוקי דעות על בטיחות AI. הם הקימו את Anthropic עם דגש על alignment (יישור) ובטיחות. בעבר שימש כסגן נשיא מחקר ב-OpenAI.

החברה זוכה להשקעות ענקיות - Google נמצאת בשיחות מוקדמות להעמקת ההשקעה, שעשויה להעריך את Anthropic ביותר מ-350 מיליארד דולר.

ביקורת על גישת Anthropic

למרות המאמצים, Anthropic זוכה לביקורת. Yann LeCun, ראש מדע ה-AI של Meta, טען כי ההתרעות של החברה הן "תיאטרון בטיחות" שנועד להשפיע על רגולטורים ולמנוע שימוש במודלים open-source. אחרים טוענים שזו אסטרטגיית מיתוג טובה יותר מאשר פתרונות אמיתיים.

אמודיי דחה את הביקורת: "זה יהיה תלוי בעתיד, ואנחנו לא תמיד נצדק, אבל אנחנו אומרים את זה כמו שאנחנו רואים את זה הכי טוב שאפשר."

קריאה לממשלה: אל תחכו

אמודיי קרא לממשלות להתערב במהירות. באופן עקרוני ביקר את ההחלטה של הסנאט האמריקאי לכלול סעיף בחוק המדיניות של נשיא טראמפ שמטיל מורטוריום של 10 שנים על רגולציה של מדינות על AI.

"AI מתקדמת בקצב מסחרר מדי," כתב במאמר דעה ב-New York Times ביוני. "אני מאמין שהמערכות האלה יכולות לשנות את העולם באופן יסודי בתוך שנתיים; בעוד 10 שנים, כל ההימורים פתוחים."

בארה"ב אין עדיין חקיקה פדרלית רחבה על AI, למרות שכל 50 המדינות הציעו חוקים הקשורים ל-AI ו-38 אימצו או חוקקו צעדי שקיפות ובטיחות.

סיכום: שקיפות היא כרגע החובה המוסרית

בראיון ל'60 Minutes' אמודיי סיכם את עמדתו: חברות AI חייבות לדבר על הסיכונים, גם אם זה פוגע במותג. השוואתו לטעויות תעשיות הטבק והאופיואידים מדגישה את הדחיפות - הזמן לפעול הוא עכשיו, לפני שהטכנולוגיה משנה הכל.

עבור חובבי טכנולוגיה בישראל, המסר ברור: עולם ה-AI זקוק לרגולציה חכמה שתאזן בין חדשנות לבין בטיחות ציבורית, ולא ניתן להשאיר את ההחלטות בידי קומץ איש.

(הכתבה מבוססת על ריאיון מ'60 Minutes' מיום ראשון, 17.11.2025)