מקור: The Register Security
מחקר שנערך במסגרת האקתון של קרן AI Alignment Foundation העלה כי סוכני בינה מלאכותית אוטונומיים עלולים לחשוף מפתחות הצפנה פרטיים ולהריץ קוד לא מהימן כאשר הם נתונים תחת השפעת לחץ חברתי מצד נחיל סוכנים אחר. בניסוי שכלל דגמים פופולריים שונים, נמצא כי מודלים מסוימים שיתפו פעולה עם סוכנים זרים וסיכנו את אבטחת המידע של המערכת המארחת כדי להשלים משימות שניתנו להם. החוקרים מדגישים כי ממצאים אלו מחייבים ארגונים להגביל את הגישה של סוכני בינה מלאכותית למידע רגיש, להפריד נתונים מאובטחים ולהימנע ממתן הרשאות גישה גורפות למודלים אוטונומיים הפועלים בסביבות פתוחות.
