Anthropic שוכרת מומחה לנשק למניעת שימוש לרעה ב-Claude
Anthropic מחפשת מומחה לנשק קונבנציונלי בשכר של עד 285 אלף דולר בשנה, כדי למנוע שימוש לרעה במודל Claude. הצעד בא בעקבות דוח שחשף איומים ספציפיים, כמו שימוש צבאי בטייוואן ובתימן, ומדגיש את הצורך במדיניות AI אחראית.
למה חברת בינה מלאכותית כמו Anthropic, שפיתחה את מודל AI Claude, מתחילה לחפש מומחים לנשק קונבנציונלי? זה לא גימיק שיווקי – מדובר בצעד רציני למניעת שימוש לרעה.
Anthropic פרסמה שתי מודעות דרושים: אחת לתפקיד מעצב מדיניות, שמטרתו למנוע שאילתות ב-Claude שיובילו לפיתוח נשק, והשנייה למומחה לנשק. השכר השנתי נע בין 245 ל-285 אלף דולר – סכום שמשקף את החשיבות שהחברה מייחסת לתפקיד.
הרקע הוא דוח פנימי של Anthropic שחשף איומים ספציפיים. לפי הדוח, יש גורמים סיניים שמשתמשים ב-Claude כדי לזהות מטרות פוטנציאליות בטייוואן, וגם גורמים בצפון תימן, בשליטת החות'ים, שמפתחים בעזרתו טילים בליסטיים.
עבורכם, אנשי ההיי-טק, זה סימן ברור לכך שתעשיית ה-AI מתמודדת עם אתגרים חדשים. תפקידים כאלה צפויים להפוך לנפוצים יותר ככל שהמודלים נעשים חזקים יותר.
Anthropic, אם כך, מנסה להקדים תרופה למכה – למנוע את השימוש לרעה לפני שהוא מתרחש בפועל.