מקור: SecurityWeek

תמונת תקציר לחדשת סייבר: חוקרים מזהירים: הנחיות זדוניות חבויות עלולות להשתלט על סוכני בינה מלאכותית

מחקר אבטחה חדש מתריע על טכניקה המאפשרת לתוקפים להשתלט על סוכנים אוטונומיים מבוססי בינה מלאכותית באמצעות הטמעת הנחיות זדוניות בתוך מסמכים, קבצי מטא-דאטה, הודעות דוא ל, תמונות וקוד. החוקרים מצביעים על כך שהנחיות חבויות אלו עלולות לתמרן את סוכני הבינה המלאכותית לביצוע פעולות מסוכנות או לא מורשות מבלי שהמשתמש יבחין בכך. ממצאים אלו מדגישים את הצורך הדחוף בשיפור מנגנוני ההגנה והסינון ביישומי בינה מלאכותית, שכן היכולת להסתיר פקודות בתוך קבצים נפוצים יוצרת וקטור תקיפה חדש ומשמעותי המאיים על היציבות והאבטחה של מערכות המסתמכות על סוכנים אוטונומיים בסביבות עסקיות ופרטיות כאחד.

קראו במקור

תגובות בפייסבוק:

תגובות

תפריט נגישות