מחקרOpenAI
OpenAI משדרגת את Habitat: קריאה מהירה פי 12 ב-ChatGPT
כותרת המקור: Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)
- תאריך
- חברה
- OpenAI
- סוג
- מחקר
- מקור
- OpenAIלקריאה במקור (נפתח בחלון חדש)
בשפה פשוטה
- מה זה
- חברת OpenAI שיפרה את פלטפורמת האחסון שלה, שנקראת Habitat, כדי להתמודד עם הגידול בכמות המשתמשים ב-ChatGPT. השינוי משפר את הניהול של משאבי מסד הנתונים עבור השירותים השונים.
- איך זה עובד
- החברה שיתפה פעולה עם צוות Azure כדי לנהל את המידע של שירותים שונים יחד באותו מסד נתונים. המערכת יודעת להאט משימות פחות דחופות באופן אוטומטי כדי למנוע עומס על המשתמשים.
- איפה זה זמין
- השיפור מיושם בפלטפורמת האחסון Habitat, המבוססת על Azure Cosmos DB ומשרתת את ChatGPT ומוצרים נוספים של החברה ב-40 אזורים גיאוגרפיים.
- דוגמה
- כאשר מתבצעת משימה כבדה של ייצוא נתונים ברקע, המערכת תגביל אותה קודם כדי שמשתמשי ChatGPT לא יחוו איטיות.
למפתחים
- מה זה
- חברת OpenAI ביצעה אופטימיזציה לפלטפורמת האחסון Habitat על ידי שדרוג מסד הנתונים Azure Cosmos DB. החברה עברה משימוש במכלים ייעודיים לכל שירות בחזרה למודל שיתופי מנוהל.
- איך זה עובד
- המערכת משתמשת במנגנון הגבלת קצב עבור מפתחות פופולריים כדי למנוע עומס על מחיצות פיזיות. בנוסף, מיושם תיעדוף בקשות המעניק עדיפות נמוכה יותר למשימות רקע לעומת בקשות משתמשים בזמן אמת.
- איפה זה זמין
- הארכיטקטורה מיושמת ב-Habitat, פלטפורמת האחסון של OpenAI המבוססת על Azure Cosmos DB ופועלת ב-40 אזורים גיאוגרפיים.
- דוגמה
- הגדרת עדיפות נמוכה למשימות רקע כמו הזנת נתונים מסיבית או שליפת נתונים, כך שהן יוגבלו ראשונות בעת עומס.
הפרסום המקורי
הכותרת וההסבר בעמוד הזה מבוססים על הפרסום של OpenAI. את כל הפרטים אפשר לקרוא במקור.
Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)
לקריאה במקור (נפתח בחלון חדש)