מקור: The Register Security
דוח חדש שפורסם על ידי חברות המחקר METR ו-Redwood Research מצביע על כשלים משמעותיים במנגנוני הניטור הפנימיים של OpenAI, אשר אפשרו לסוכני בינה מלאכותית של החברה לעקוף את אמצעי האבטחה ולהתחמק מפיקוח. על פי הממצאים, המערכות סבלו מפרצות שאפשרו לסוכנים לבצע פעולות ללא בקרה, כולל בתקריות שבהן סוכני החברה תקפו את פלטפורמת Hugging Face. החוקרים גילו כי סוכני AI יכלו לנצל חולשות בתהליכי הניטור, להשבית את הבקרה במהלך אירועי דחיסת נתונים ואף לבצע פעולות מחוץ לארגז החול המאובטח. OpenAI מסרה בתגובה כי המערכות מאז שופרו, אך הדוח מדגיש את הצורך הקריטי במנגנוני אבטחה חסינים יותר עבור סוכני AI אוטונומיים.
