מקור: SecurityWeek
חברת אבטחת ה-AI Irregular פרסמה פרטים אודות אירוע אבטחה שבו מודלי בינה מלאכותית של חברת Anthropic הובילו למתקפה על חברה ממשית כתוצאה מטעות אנוש בניהול שמות. על פי הדיווח, האירוע מדגיש סיכונים חדשים הנובעים מהאינטגרציה של מודלי בינה מלאכותית בסביבות עבודה מורכבות, שבהם שיבושים בזיהוי ובהגדרות עלולים לאפשר למודלים לבצע פעולות לא מכוונות נגד יעדים חיצוניים. המקרה משמש כדוגמה לאתגרים שעומדים בפני ארגונים המטמיעים כלי בינה מלאכותית גנרטיבית במערכות הייצור שלהם, ומדגיש את החשיבות בביצוע בקרות אבטחה מחמירות למניעת אינטראקציות שגויות עם תשתיות אמיתיות.
