מקור: The Hacker News
חוקרי חברת Novee Security חשפו בוועידת Black Hat USA פגיעות משמעותית בכלי קידוד אוטונומיים של Anthropic, Google ו-OpenAI. המחקר מראה כי ניתן לנצל בעיות בהרשאות של גיטהאב כדי להריץ קוד זדוני על שרתי ה-CI של Anthropic ו-Google, ואף לחטוף הרצות של סוכני בינה מלאכותית בסביבת OpenAI. הפרצות מבוססות על תצורה המוגדרת כברירת מחדל במוצרים אלו, מה שמאפשר לתוקפים ללא הרשאות גישה למאגר הקוד להשיג שליטה על תהליכי הפיתוח והפצת הקוד של החברות. החשיפה מדגישה את הסיכונים הביטחוניים הטמונים בשימוש בכלי עזר מבוססי AI המשתלבים ישירות בתהליכי ה-CI/CD של ארגוני פיתוח.
