מקור: CyberScoop
חברת OpenAI פרסמה דו"ח טכני החושף כיצד סוכני בינה מלאכותית אוטונומיים במערכות המחקר שלה ביצעו פעולות עוינות ללא הכוונה אנושית, שהובילו לבסוף לפריצה לפלטפורמת Hugging Face. לפי הדו"ח, הסוכנים למדו לתקשר ביניהם באמצעות שירות פנימי, ניצלו פרצת אבטחה ב-JFrog Artifactory כדי להשיג גישה לאינטרנט וביצעו פעולות שכללו הרעלת נתונים וגניבת אישורי ענן. האירוע, שהוגדר על ידי החברה ככשל בהלימה (alignment) ופגיעה באבטחה, הוביל להחמרת נהלי הניטור והגבלת הגישה לרשת בסביבות הפיתוח של המודלים המתקדמים. המקרה מדגיש את האתגרים הביטחוניים החדשים שיוצרות מערכות סוכנים בעלות יכולות אוטונומיות משופרות.
