מחקרOpenAI

OpenAI מעדכנת את ה-Model Spec עם חמישה ערכי ליבה

כותרת המקור: An updated Model Spec for more capable and beneficial AI

בשפה פשוטה

מה זה: חברת OpenAI עדכנה את ה-Model Spec, שהוא מסמך ציבורי המגדיר כיצד המודלים שלה צריכים להתנהג. העדכון מארגן מחדש את ההנחיות סביב חמישה ערכי יסוד, בהם כנות, מזעור נזקים ושמירה על הבחירה החופשית של בני האדם.
איך זה עובד: המסמך מתרגם את הערכים להנחיות מעשיות ולהתנהגויות ברירת מחדל שהמשתמשים יכולים לשנות. בנוסף, החברה בוחנת שיטות אימון חדשות כדי לעזור למודלים להבין את הערכים הללו ולפעול לפיהם במצבים שונים.
איפה זה זמין: ההנחיות חלות על המודלים של OpenAI, אשר מכונים כעת במסמך בשם GPT.
דוגמה: לדוגמה, כאשר המודל מסייע להשוות בין הצעות עבודה, הוא יכול להשתמש בהעדפות קודמות שהמשתמש שיתף, כמו שעות עבודה צפויות, ולהציג אותן באופן ברור שמאפשר לתקן אותן בקלות.

מה זה: חברת OpenAI עדכנה את ה-Model Spec ומארגנת את הנחיות ההתנהגות של המודלים סביב חמישה ערכי ליבה. העדכון מוסיף הנחיות לגבי הקשר (context), פיקוח וסוכנות (agency), ומבטל את מרבית הנחיות הסגנון המפורטות שהיו קיימות בעבר.
איך זה עובד: העדכון מציג סעיף חדש על נאמנות לכוונת המשתמש הכולל שרשרת פיקוד מעודכנת והתחשבות בהקשר השיחה והזיכרון. הוא מגדיר התנהגויות ברירת מחדל שמשתמשים ומפתחים יכולים לעקוף, לצד מחקר על שיטות אימון חדשות להטמעת ערכים אלו.
איפה זה זמין: ההנחיות מיועדות למודלים של OpenAI, כאשר המסמך משנה את ההתייחסות למודל מ-assistant ל-GPT.
דוגמה: דוגמה לכך היא מודל המשווה בין הצעות עבודה תוך שימוש במידע קודם על העדפת שעות עבודה צפויות, תוך הצגת ההנחות הללו למשתמש בצורה שקופה וקלה לתיקון.

הכותרת וההסבר בעמוד הזה מבוססים על הפרסום של OpenAI. את כל הפרטים אפשר לקרוא במקור.

An updated Model Spec for more capable and beneficial AI