AIUC גייסה 40 מיליון דולר כדי לוודא שסוכני AI לא משתגעים

כש-UL (Underwriters Laboratories) התחילה לבדוק מוצרים חשמליים בארה״ב לפני יותר ממאה שנה, היא עשתה זאת כי חברות הביטוח שמשלמות על שריפות רצו לדעת מה באמת בטוח. היום, בעולם שבו סוכני AI נכנסים לשירות בבתי חולים, בנקים וממשלות – מישהו צריך לעשות את אותו הדבר בדיוק. זה הרעיון מאחורי AIUC, סטארטאפ שמגייס עכשיו 40 מיליון דולר כדי להפוך לגורם שמאשר שסוכני AI לא משתגעים.

מי עומד מאחורי החברה?

המייסדים הם גיסים – Rune Kvist ו-Rajiv Dattani. Kvist היה העובד הראשון בצוות המוצר ב-Anthropic, אחת מחברות ה-AI הגדולות בעולם. Dattani שימש כ-COO ב-METR, ארגון מחקר בטיחות AI עצמאי, ועדיין משמש כחבר דירקטוריון שם. השניים השיקו את החברה – שנקראת Artificial Intelligence Underwriting Company, או בקיצור AIUC – ביולי 2025.

הסבב הנוכחי, Series A של 40 מיליון דולר, הובל על ידי Ribbit Capital בהשתתפות First Harmonic. בסבב ה-Seed הקודם גויסו 15 מיליון דולר מ-Nat Friedman (לשעבר מנכ״ל GitHub) דרך הקרן שלו NFDG, יחד עם Emergence, Terrain ו-Ben Mann, אחד ממייסדי Anthropic. סך הגיוסים עומד על 55 מיליון דולר.

איך הביקורת עובדת?

AIUC פיתחה תקן שנקרא AIUC-1, בהשראת תקן האבטחה המוכר SOC 2. כדי לבנות אותו, היא איגדה קונסורציום של כ-250 מנהלי אבטחת מידע וסיכונים מחברות Fortune 1000 – האנשים שקונים סוכני AI וצריכים להחליט אם לאמץ אותם. ״אנחנו נפגשים איתם מדי חודש ושואלים: כשקונים סוכן, מה הייתם רוצים לראות? מה השאלות שצריך לשאול?״ הסביר Dattani.

כל סוכן עובר סדרה של כ-5,000 בדיקות שמדמות תרחישי אמת: jailbreaks, הזיות (hallucinations), דליפות מידע ועוד. התוצאה היא דוח של כ-100 עמודים שמתאר איפה הסוכן בטוח ואמין – ואיפה לא. מעניין לציין ש-AIUC משתמשת בסוכני AI כדי להריץ את הבדיקות, אבל בני אדם מאמתים את התוצאה הסופית. ההסמכה מתחדשת כל רבעון, כי טכניקות ההתקפה מתעדכנות.

לקוחות שכבר נמצאים בפנים

בין הלקוחות שכבר מחזיקים בהסמכה: Cursor (Anysphere), Harvey, Lovable, ElevenLabs, KPMG, UiPath ו-Fin (לשעבר Intercom). בפברואר האחרון, ElevenLabs ניצלה את ההסמכה כדי לקבל את הביטוח הראשון מסוגו לסוכני AI – כולל כיסוי למקרה שסוכן קול ימסור מידע שגוי ללקוח.

Kvist מציין ש״בנקים, בתי חולים, ממשלות וצבאות כבר לא נמנעים מ-AI כי המודל לא מספיק חכם. הם נמנעים כי הם התחייבו בפני הלקוחות שלהם על מה המערכת תעשה או לא תעשה – ואף אחד לא יכול להבטיח את זה.״

ממודלים פורצי דרך לשוק הביטוח

עד עכשיו התמקדה AIUC בסוכנים שחברות בונות על מודלים קיימים. אבל לדברי Kvist, הלחץ האמיתי עבר לשלב הבא: סקירת מודלי ה-AI עצמם. ״רוב הארגונים מנהלים רשימת סוכנים שקיבלו אישור פיילוט אבל נתקעים בסקירת האבטחה,״ הוא אומר. ״הוכחת ביטחון ואמינות הפכה לבוטלנק המרכזי.״

הכסף מהסבב הנוכחי ישמש להרחבת פעילות הביקורת והביטוח גם למודלים מתקדמים – מה ש-AIUC מתארת כ״מערכת פיקוח מקיפה למערכות AI פורצות דרך.״

Micky Malka, מייסד ושותף-מנהל ב-Ribbit Capital, הסביר את ההשקעה: ״בילינו יותר מעשור בהשקעה בחברות פינטק, מגזר שבו אמון שווה יותר מהכול. AI הולך לאותו כיוון – אבל הוא זז מהר יותר מהמערכות שהחברות משתמשות בהן כדי להעריך אותו.״

בקיצור, אם תהיתם מתי ה-AI יקבל תו תקן – מסתבר שמישהו כבר בונה את זה.