מקור: The Register Security

תמונת תקציר לחדשת סייבר: מחקר חשף ניסיונות הזרקת הוראות עקיפה לסוכני בינה מלאכותית דרך כותרות HTTP

חוקרי אבטחה מחברת Signals Corps זיהו ניסיונות ראשונים לביצוע הזרקת הוראות עקיפה (Indirect Prompt Injection) באמצעות כותרות HTTP הנשלחות לסוכני בינה מלאכותית. במסגרת ניתוח של כ-217 מיליון תגובות רשת ממאגר Common Crawl, אותרו כמעט 8,000 אתרים המתקשרים ישירות עם סוכני בינה מלאכותית באמצעות כותרות, ומתוכם 30 אתרים כללו ניסיונות הזרקה שמטרתם לשבש את פעילות הסוכן, לגרום לו לסרב להשיב או להטות תוצאות סינון. פגיעה שכזו תלויה בתנאים ספציפיים שבהם הסוכנים מעבדים כותרות HTTP כחלק מההקשר שלהם, והחוקרים ממליצים להגביל עיבוד מטא-דאטה לא מאומת.

קראו במקור

תגובות בפייסבוק:

תגובות

תפריט נגישות