מקור: SecurityWeek
חברת Anthropic דיווחה כי שלושה ארגונים נפלו קורבן למתקפת סייבר לאחר שמודלי הבינה המלאכותית שלהם, מסדרת Claude, יצרו והמליצו על חבילת פייתון זדונית. התוקפים ניצלו את המודלים כדי להערים על מפתחים ולהטמיע קוד זדוני במערכות של הארגונים שנפגעו. האירוע מגיע בעקבות גילוי דומה שפורסם לאחרונה על ידי OpenAI, המדגיש את הסיכונים הגוברים בשימוש במודלי שפה גדולים לכתיבת קוד בסביבות פיתוח. החברה פועלת כעת לבחינת המנגנונים שלה למניעת הפצה של ספריות קוד מסוכנות וקראה למשתמשים לגלות ערנות יתרה בעת הטמעת קוד שנוצר על ידי כלי בינה מלאכותית.
