עסקיםClaude
Anthropic מציעה לחסום מודלי AI שיכולים להרוג 50 איש
כותרת המקור: Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
- תאריך
- חברה
- Anthropic
- סוג
- עסקים
- מקור
- TechCrunchלקריאה במקור (נפתח בחלון חדש)
בשפה פשוטה
- מה זה
- חברת Anthropic הציעה לקונגרס האמריקאי טיוטת חוק חדשה בנושא בטיחות בינה מלאכותית. הצעת החוק מציעה לחסום הפצה של מודלים שמציבים סיכון קיצוני לחיי אדם או לרכוש.
- איך זה עובד
- מעריכים עצמאיים יבדקו את המודלים וידווחו על סיכונים למשרד המסחר האמריקאי. המשרד יצטרך לפנות לשופט כדי לעצור את הפצת המודל, ללא סמכות לעשות זאת בעצמו.
- איפה זה זמין
- הצעת החוק מיועדת לרגולציה פדרלית בארצות הברית.
- דוגמה
- מודל עלול להיחסם אם קיים חשש מוחשי שהוא ישמש ליצירת נשק ביולוגי.
למפתחים
- מה זה
- חברת Anthropic ניסחה הצעת חוק המגדירה סף סיכון קטסטרופלי לחסימת הפצה של מודלי בינה מלאכותית.
- איך זה עובד
- מעריכים עצמאיים יבחנו את המודלים, ובמקרה של זיהוי סיכון ידווחו למשרד המסחר תוך 72 שעות. משרד המסחר יידרש לבקש צו מניעה משופט, שכן לסוכנויות פדרליות לא תהיה סמכות עצמאית לעצור את ההפצה.
- איפה זה זמין
- הצעת החוק מיועדת להחלה ברמה הפדרלית בארצות הברית.
- דוגמה
- מודל עלול להיחסם מהפצה אם יתגלה שהוא מסוגל לעקוף את בקרות האבטחה של המפתחים שלו.
הפרסום המקורי
הכותרת וההסבר בעמוד הזה מבוססים על הפרסום של TechCrunch. את כל הפרטים אפשר לקרוא במקור.
Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
לקריאה במקור (נפתח בחלון חדש)