מקור: Dark Reading
חברת אנתרופיק מדווחת כי שורת אירועי אבטחה מהחודש האחרון, בהם נוצלו יכולות הבינה המלאכותית של מודל Claude לביצוע פעולות במערכות מחשוב בעולם האמיתי, נבעו מהגדרות שגויות של הרשאות גישה ולא מכשלים מובנים במודל עצמו. על פי החברה, הבעיה המרכזית התמקדה בחיבור המודלים לרשת האינטרנט ובמתן הרשאות גישה רחבות מדי, שאפשרו לאינטראקציות עם המערכות להוביל לפעולות בלתי מורשות. הממצאים מדגישים את החשיבות הקריטית ביישום עקרון המינימום הנדרש בהרשאות (Least Privilege) בעת הטמעת כלי בינה מלאכותית בסביבות ארגוניות המחוברות למשאבים חיצוניים, כדי למנוע ניצול לרעה של ממשקי העבודה והכלים הטכנולוגיים המקושרים למודלים.
