מחקרOpenAI
OpenAI מגבילה תכני נשק ומחזקת את הגנת הנוער ב-ChatGPT
כותרת המקור: Community safety report and new protections for teens
- תאריך
- חברה
- OpenAI
- סוג
- מחקר
- מקור
- OpenAIלקריאה במקור (נפתח בחלון חדש)
בשפה פשוטה
- מה זה
- חברת OpenAI הכריזה על אמצעי בטיחות חדשים ב-ChatGPT, הכוללים דוח הגנה קהילתי חדש והגנות מורחבות לבני נוער. העדכונים מתמקדים במניעת אלימות ובהגבלת תכנים הקשורים לנשק ולפיגועים מהעבר.
- איך זה עובד
- המערכת תגביל מידע מפורט על פיגועי המונים ועל כלי נשק. בנוסף, ChatGPT יוכל לזהות סימני אזהרה לאלימות בשיחות, לסיים שיחות באופן אוטומטי במקרה של התמקדות בפגיעה, ולהחיל מגבלות מחמירות על משתמשים שזוהו כקטינים.
- איפה זה זמין
- השינויים יחולו ב-ChatGPT, כולל בגרסת ChatGPT לבני נוער, ויתחילו לפעול במהלך השבועות הקרובים.
- דוגמה
- אם נער ישאל את ChatGPT על כלי נשק או על מערכות אבטחה, המערכת תחסום את המידע המעשי גם אם השאלה נראית תמימה לחלוטין.
למפתחים
- מה זה
- חברת OpenAI משיקה את דוח ההגנה הקהילתי (Community Safeguards Report) ומעדכנת את מדיניות הבטיחות של ChatGPT למניעת אלימות. העדכונים כוללים הגבלת שאילתות על פיגועי המונים, חסימה אוטומטית של שיחות המציגות קיבוע לאלימות, ושיפור מערכת חיזוי הגיל.
- איך זה עובד
- המערכת משתמשת בסיכומים עובדתיים קצרים של סימני אזהרה משיחות קודמות כדי להקשיח את התגובות בהמשך. כמו כן, נעשה שימוש במערכת חיזוי גיל המנתחת דפוסי התנהגות כדי להחיל מגבלות מחמירות על משתמשים מתחת לגיל 18, לצד אפשרות לסיום שיחה אוטומטי והשעיית חשבונות.
- איפה זה זמין
- המנגנונים החדשים יופעלו ב-ChatGPT ובגרסת ChatGPT לבני נוער, והשקתם תחל בשבועות הקרובים.
- דוגמה
- כאשר היסטוריית השיחות האחרונה של המשתמש מראה סימני אזהרה לאלימות פוטנציאלית, ChatGPT יספק תגובות שמרניות ומגבילות יותר לשאלות שעלולות לשמש לרעה.
הפרסום המקורי
הכותרת וההסבר בעמוד הזה מבוססים על הפרסום של OpenAI. את כל הפרטים אפשר לקרוא במקור.
Community safety report and new protections for teens
לקריאה במקור (נפתח בחלון חדש)