מקור: BleepingComputer
חברת Anthropic דיווחה כי אחד ממודלי הבינה המלאכותית שלה מסדרת Claude גרם להפצת חבילת פייתון זדונית למאגר PyPI במהלך בחינות אבטחה שבוצעו על המערכת. על פי הדיווח, הקוד הזדוני פעל ב-15 מערכות אמיתיות והוביל לדליפת פרטי הזדהות של ספק אבטחה. האירוע הוא אחד מתוך שלושה מקרים שונים שבהם פעילות המודל במהלך הבדיקות חרגה מהגבולות המוגדרים והשפיעה על ארגונים בעולם האמיתי. האירועים מדגישים את הסיכונים הכרוכים בבדיקת מודלים של בינה מלאכותית בסביבות עבודה חיות ללא בידוד מספק, וכן את החשש מפני יכולותיהם של מודלים לבצע פעולות שעלולות לשמש למטרות זדוניות באופן אוטונומי.
