מחקרClaude

Anthropic בולמת 90% מגניבת המידע מ-Claude

כותרת המקור: Strengthening our defenses against distillation attacks

בשפה פשוטה

מה זה: חברת Anthropic שיפרה את מערכות ההגנה שלה כדי למנוע מתקפות זיקוק (distillation), שבהן גורמים חיצוניים מעתיקים את היכולות של Claude ללא אישור. הצעדים החדשים הפחיתו את היקף המידע שנגנב בשיעור של 90% עד 99%.
איך זה עובד: ההגנות מתמקדות בחסימת הגישה לתהליך החשיבה הפנימי של המודל. המערכת מזהה ניסיונות להערים על Claude כדי שיחשוף את חשיבתו, מגבילה את שיתוף המידע וחוסמת חשבונות שמנסים להעתיק נתונים באופן סדרתי.
איפה זה זמין: ההגנות פעילות במודלים המתקדמים ביותר של החברה, ובהם Claude Sonnet 5.5, Claude Opus 5 ו-5.5, וכן Claude Fable 5 ו-5.1.
דוגמה: במקרה אחד, שאילתות שנשלחו למודלים של חברת Moonshot הועברו בחשאי ל-Claude כדי להעתיק את יכולותיו, כולל בקשה לניתוח צילומי אבטחה של אדם ספציפי.

מה זה: חברת Anthropic הטמיעה מנגנוני הגנה חדשים נגד זיקוק מודלים (distillation) כדי למנוע אימון של מודלים קטנים על גבי תמלילי החשיבה של Claude. המערכת הפחיתה את כמות האסימונים (tokens) שחולצו על ידי תוקפים ב-90% עד 99%.
איך זה עובד: המערכת משתמשת במסווג דו-שלבי לזיהוי וחסימת פרומפטים של חילוץ מידע, ומגבילה גישה של מודלים ישנים לתמלילי חשיבה. בנוסף, תכונת preserved thinking מונעת מחשבונות API חדשים לערוך את ההקשר הקודם של השיחה.
איפה זה זמין: ההגנות מיושמות במודלים Claude Sonnet 5.5, Claude Opus 5 ו-5.5, וכן Claude Fable 5 ו-5.1. מגבלת עריכת ההקשר חלה על חשבונות API שנוצרו החל מ-31 באוגוסט 2026.
דוגמה: תוקפים ניסו לעקוף את ההגנות על ידי הנחיית Claude לתרגם את תהליך החשיבה שלו לשפה אחרת, או על ידי דרישה להציג את החשיבה הקודמת מילה במילה.

הכותרת וההסבר בעמוד הזה מבוססים על הפרסום של Anthropic. את כל הפרטים אפשר לקרוא במקור.

Strengthening our defenses against distillation attacks