מקור: The Hacker News
חוקרי אבטחה מחברת Check Point חשפו כלי פריצה המכונה Haiou המיועד למודל OpenAI Codex ומבצע שינויים בהנחיות המערכת של סוכני בינה מלאכותית. התוכנה הזדונית, המוגדרת על ידי החוקרים כ-prompt adware, מתערבת בתצורת המודל כדי להחדיר פרסומות לשירותי צד שלישי המציעים גישה לבינה מלאכותית. מדובר בשימוש זדוני בטכניקות של פריצה לבינה מלאכותית שמטרתן לעקוף את ההגדרות המקוריות ולשנות את התנהגות הסוכנים באופן שמשפיע על חוויית המשתמש והפלט שמתקבל מהמודל, מה שמעלה דאגות אבטחה סביב טכניקות מניפולציה על ממשקי תכנות וסוכנים אוטונומיים.
