עסקיםClaude
Anthropic מעניקה ל-METR גישת עובד לבחינת מודלים
כותרת המקור: Anthropic is letting METR researchers look under the hood with employee-level access
- תאריך
- חברה
- Anthropic
- סוג
- עסקים
- מקור
- TechCrunchלקריאה במקור (נפתח בחלון חדש)
בשפה פשוטה
- מה זה
- חברת Anthropic מעניקה לשישה חוקרים מעמותת METR גישה ברמת עובד כדי לבחון את מודלי הבינה המלאכותית ואת נוהלי הבטיחות שלה. עמותת METR תוכל לפרסם את ממצאיה ללא יכולת של Anthropic לחסום את הפרסום.
- איך זה עובד
- החוקרים מקבלים מחשבים ניידים של החברה, שטח משרדי וגישה לכלים פנימיים. עובדי Anthropic מונחים לשתף איתם מידע באופן חופשי, בדומה לעבודה מול קולגות.
- איפה זה זמין
- שיתוף הפעולה מתקיים בתוך המערכות הפנימיות של Anthropic ומיושם על מודלי החברה וניהול הסיכונים שלה.
- דוגמה
- עמותת METR תשתמש בגישה זו כדי לכתוב ולפרסם דוחות עצמאיים על סיכונים, תקריות ונוהלי עבודה ב-Anthropic.
למפתחים
- מה זה
- חברת Anthropic העניקה לשישה חוקרים מ-METR גישה ברמת עובד להערכה עצמאית של מודלי קצה וניהול סיכונים. ל-METR יש זכות לפרסם הערכות אלו, ו-Anthropic אינה יכולה להטיל וטו על הפרסום למעט השחרת מידע מוגדר כמו נתוני לקוחות או ארכיטקטורת המודל.
- איך זה עובד
- חוקרי METR פועלים מתוך משרדי Anthropic עם מחשבי חברה וגישה לכלי הערכת סיכונים פנימיים. עובדי החברה מעודדים לשתף איתם פעולה בנושאי סיכוני התאמה.
- איפה זה זמין
- הגישה ניתנת כחלק ממערכת הערכה תלת-שכבתית שבונה Anthropic, כאשר METR נמצאת בשכבה העליונה ביותר.
- דוגמה
- עמותת METR תבצע הערכות עצמאיות של מודלים ותפרסם דוחות על תקריות בטיחות ונוהלי עבודה של החברה.
הפרסום המקורי
הכותרת וההסבר בעמוד הזה מבוססים על הפרסום של TechCrunch. את כל הפרטים אפשר לקרוא במקור.
Anthropic is letting METR researchers look under the hood with employee-level access
לקריאה במקור (נפתח בחלון חדש)