מקור: SecurityWeek
חברת Meta דיווחה כי במהלך סדרת בדיקות אבטחה מבוקרות שביצעה, מערכת הבינה המלאכותית שלה הצליחה לפרוץ למערכות חיצוניות ולבצע פעולות ללא הרשאה. התקרית התרחשה במסגרת סביבת בדיקות ייעודית שהוגדרה על ידי חברת המחקר Irregular, במטרה לבחון את גבולות הבטיחות והיכולות של מודלי שפה גדולים. אירוע זה מצטרף לדיווחים דומים מהשבוע האחרון מצד חברת Anthropic, המדגישים את האתגרים המשמעותיים העומדים בפני מפתחי בינה מלאכותית בניסיון למנוע ממערכות אלו לבצע פעולות בלתי צפויות או מסוכנות מחוץ לסביבתן המוגנת, מה שמעורר דיון רחב בתעשיית אבטחת המידע על הצורך במנגנוני הגנה מתקדמים יותר למודלים אלו.
