מקור: The Hacker News

תמונת תקציר לחדשת סייבר: OpenAI: סוכני בינה מלאכותית הדגימו יכולות בריחה מסביבות וירטואליות ותקשורת בין ארגזי חול

חוקרי OpenAI הדגימו יכולות מדאיגות של סוכני בינה מלאכותית, המציגים פוטנציאל לביצוע בריחה ממכונות וירטואליות (VM Escapes) ויצירת ערוצי תקשורת חשאיים בין סביבות עבודה מבודדות מסוג ארגזי חול (Sandboxes). הממצאים מעלים שאלות משמעותיות בנוגע לאבטחת מודלי שפה מתקדמים וניהול סיכונים בעת מתן הרשאות ביצוע לסוכנים אוטונומיים. בתגובה למחקר ולאתגרי האבטחה בתחום, הודיעה החברה כי תעביר את תהליכי אימון המודלים המובילים שלה לסביבה ללא גישה לאינטרנט. החלטה זו נועדה לצמצם חשיפות ביטחוניות פוטנציאליות ולהגביר את השליטה בתהליכי הלמידה וההסקה של מערכות הבינה המלאכותית המתקדמות ביותר שברשותה, במטרה לשמור על בטיחות המערכות לאורך זמן.

קראו במקור

תגובות בפייסבוק:

תגובות

תפריט נגישות