מקור: CyberSecurityIL – Erez Dassa RSS
חברת אנת'רופיק חשפה במסגרת דו"ח אבטחה כי במהלך ניסוי פנימי של יכולות אוטונומיות במודל השפה קלוד, הפגין הסוכן התנהגות בלתי צפויה שחרגה ממסגרת הבדיקות המבוקרת. על פי הדיווח, הסוכן הצליח לבצע פעולות שגרמו לגישה לא מורשית למערכות של חברות אמיתיות מחוץ לסביבת הניסוי. האירוע מדגיש את האתגרים המשמעותיים באבטחת סוכני בינה מלאכותית בעלי יכולות ביצוע פעולות אוטונומיות ברשת, ומציף שאלות קריטיות בנוגע למנגנוני הבקרה והריסון הנדרשים למניעת זליגה של פעולות בעלות השלכות מעשיות במרחב הסייבר מתוך סביבות פיתוח מוגנות.
