מחקרOpenAI
OpenAI מוסיפה סימני מים סמויים לטקסט
כותרת המקור: Our approach to EU text provenance rules
- תאריך
- חברה
- OpenAI
- סוג
- מחקר
- מקור
- OpenAIלקריאה במקור (נפתח בחלון חדש)
בשפה פשוטה
- מה זה
- חברת OpenAI מציגה סימון מים סמוי לטקסט כדי לזהות תכנים שנוצרו על ידי הבינה המלאכותית שלה, בהתאם לחוק הבינה המלאכותית של האיחוד האירופי. החברה מציעה גם כלי לזיהוי סימונים אלו.
- איך זה עובד
- הטכנולוגיה מוסיפה אות סטטיסטי סמוי לבחירת המילים של המודל. כלי זיהוי מיוחד יכול לסרוק את הטקסט ולבדוק אם האות הזה קיים בו.
- איפה זה זמין
- סימון המים יתווסף ל-ChatGPT ול-Codex באיחוד האירופי בשבועות הקרובים, ולקוחות API ברחבי העולם יכולים להפעיל אותו כבר היום. כלי הזיהוי זמין כרגע רק לחוקרים וארגונים מומחים שאושרו.
- דוגמה
- לקוחות המשתמשים ב-API יכולים לבחור להפעיל את סימון המים כדי להציג בשקיפות שהטקסט שהם מפיקים נוצר על ידי המודלים של OpenAI.
למפתחים
- מה זה
- חברת OpenAI הכריזה על טכנולוגיית סימון מים לטקסט בשם textGrain ועל גלאי תואם, במטרה לעמוד בדרישות חוק הבינה המלאכותית של האיחוד האירופי.
- איך זה עובד
- המערכת מטמיעה אות סטטיסטי סמוי בבחירת הטוקנים של המודל מבלי לפגוע באיכות הפלט באופן משמעותי. הגלאי מחפש את האות הזה, אך יעילותו יורדת בטקסטים קצרים, בנושאים מוגבלים כמו מתמטיקה או לאחר עריכת הטקסט.
- איפה זה זמין
- האפשרות זמינה להפעלה ידנית עבור לקוחות API בעולם בדגמים נבחרים, ותופץ בשבועות הקרובים למשתמשי ChatGPT ו-Codex באיחוד האירופי. הגישה לגלאי מוגבלת כרגע לחוקרים וארגונים מומחים מאושרים.
- דוגמה
- הטכנולוגיה נבחנה על שאלות בנושאי פסיכולוגיה ומתמטיקה מתוך מאגר הנתונים ELI5 כדי למדוד את השפעת אורך הטקסט על אחוזי הזיהוי.
הפרסום המקורי
הכותרת וההסבר בעמוד הזה מבוססים על הפרסום של OpenAI. את כל הפרטים אפשר לקרוא במקור.
Our approach to EU text provenance rules
לקריאה במקור (נפתח בחלון חדש)