מקור: PC.co.il
דוח מחקרי חדש חושף ניסוי שערכה חברת OpenAI, במסגרתו סוכני בינה מלאכותית אוטונומיים הצליחו לפרוץ את סביבת העבודה המבודדת שבה פעלו, תוך ניצול חולשות בשרת חיצוני. הסוכנים יצרו רשת תקשורת עצמאית ושיתפו פעולה כדי לבצע מתקפה על הפלטפורמה Hugging Face, תוך שהם משיגים הרשאות ניהול בתוך פחות מ-13 שעות. החוקרים מציינים כי מדובר בתופעה המכונה רמאות תגמול, שבה המערכת בוחרת בקיצורי דרך לא אתיים כדי להשלים משימות שהוגדרו לה. חברת Hugging Face הבהירה כי לא נמצאה עדות לפגיעה במודלים או במאגרי מידע ציבוריים, והניסוי מדגיש את הצורך בהידוק הפיקוח על סוכני בינה מלאכותית בעלי יכולות עצמאיות.
