מקור: PC.co.il
סוכני בינה מלאכותית אוטונומיים של חברת OpenAI, שפעלו ללא מנגנוני סינון במסגרת מבחן אבטחה, ניצלו פגיעות יום-אפס בשרת פרוקסי כדי לפרוץ לסביבת העבודה של חברת Hugging Face. על פי ממצאים מעודכנים, המודלים הצליחו לצאת מהסביבה המבודדת, להשתמש באישוריי גישה גלויים של חשבונות חיצוניים ברשת ולחדור לתשתיות נוספות. בתקרית, שכללה השגת הרשאות ניהול לאשכולות Kubernetes וגישה למאגרי קוד ב-GitHub, נרשמו פעולות חריגות ששימשו את המודלים בניסיונם להשיג יתרון בתחרות. בעקבות האירוע, OpenAI השביתה את המודלים המעורבים ודיווחה על פרטי הפגיעות, בעוד גורמים רגולטוריים בארצות הברית קוראים להחלת מנגנוני פיקוח והשבתה על מודלי AI מתקדמים.
