מקור: Dark Reading

תמונת תקציר לחדשת סייבר: פערי אבטחה בבינה מלאכותית: מנגנוני הגנה אינם מספקים הגנה שווה בכל השפות

מחקר חדש מצביע על קיומם של פערי אבטחה משמעותיים במוצרי בינה מלאכותית, הנובעים מהיעדר הגנה אחידה מפני פריצות ופעולות זדוניות במגוון שפות. על פי הממצאים, שכבות האבטחה ומנגנוני ה-Guardrails הקיימים כיום בכלי בינה מלאכותית אינם מותאמים בצורה שווה לכל השפות, מה שמותיר משתמשים בשפות שונות חשופים לניסיונות Jailbreaking ולביצוע פעולות לא בטוחות. מציאות רב-לשונית זו מהווה אתגר אבטחת מידע מהותי, שכן חולשות בסינון התוכן ובמנגנוני הבקרה עלולות לעקוף את אמצעי ההגנה הקיימים בהתבסס על השפה שבה מוגשת הבקשה למודל, ובכך לאפשר ניצול לרעה של המערכות בשווקים בינלאומיים.

קרא במקור

תגובות בפייסבוק:

תגובות

תפריט נגישות