מקור: Dark Reading

תמונת תקציר לחדשת סייבר: שיטת הסוכן הרדום: חוקרים מזהירים מהטמעת קוד זדוני במודלי בינה מלאכותית בקוד פתוח

מחקר חדש חושף טכניקה מדאיגה המאפשרת לתוקפים להחדיר קוד זדוני לתוך מודלי בינה מלאכותית בקוד פתוח מבלי לפגוע בביצועי המודל. על פי החוקרים, ניתן להטמיע את הקוד בשיעור זעיר של כ-0.00001% בלבד ממשקולות הרשת הנוירונית, מה שהופך את זיהוי הקוד הזדוני למשימה מורכבת במיוחד עבור המשתמשים. ממצאי המחקר מדגישים את הסיכונים הביטחוניים הטמונים בשימוש במודלים חיצוניים ומעלים שאלות קריטיות בנוגע לאימות ואבטחת שרשרת האספקה של מודלי בינה מלאכותית, שכן הקוד החבוי עשוי להיות מופעל תחת תנאים מסוימים ולהוות איום משמעותי על בטיחות המערכות המשתמשות במודלים אלו.

קראו במקור

תגובות בפייסבוק:

תגובות

תפריט נגישות