מקור: CyberSecurityIL – Erez Dassa RSS
חוקרי סייבר ישראלים חשפו קמפיין נרחב של הרעלת מודלי בינה מלאכותית, המשפיע על תוצאות ב-ChatGPT, Gemini ובמנוע החיפוש של גוגל. התוקפים משתמשים בטכניקות אופטימיזציה למנועים גנרטיביים כדי לגרום למודלים להציג פרטי קשר, אתרי התחברות ועדכוני תוכנה מזויפים עבור 374 מותגים וחברות מוכרות, בהם בנקים וחברות תעופה. השיטה מתבססת על הצפת הרשת בתוכן כוזב כגון מסמכי PDF ואתרים שנועדו להטעות את אלגוריתמי הדירוג של ה-AI. החוקרים דן לסקר, אריאל סימון ונאור חזיז מזהירים כי אמון המשתמשים במידע שמספקים המודלים הופך אותם לטרף קל למתקפות אלו, וקוראים לענקיות הטכנולוגיה להתייחס לתופעה כחולשת אבטחה קריטית הדורשת טיפול מיידי.
