מקור: The Hacker News

תמונת תקציר לחדשת סייבר: חוקרי מיקרוסופט הראו כי ניתן להחדיר דלת אחורית למודלי בינה מלאכותית באמצעות עריכת מספר קטן של נוירונים

חוקרים מטעם חברת מיקרוסופט הציגו מחקר חדש המדגים כיצד ניתן להחדיר דלת אחורית למודלי בינה מלאכותית מבלי לבצע אימון מחדש למודל, וזאת באמצעות שינוי של פחות מעשרה נוירונים שאינם בשימוש תדיר. על פי הממצאים, כאשר המודל מזהה טריגר ספציפי שהוגדר מראש, הוא מפיק פקודה זדונית שסוכן המבוסס על המודל יבצע בהתאם להרשאותיו הקיימות. תקיפה מסוג זה מחייבת את התוקף להחזיק ביכולת לשנות את משקולות המודל, והשיטה הוכיחה היתכנות טכנית המעלה דאגות אבטחה משמעותיות בתחום שרשרת האספקה והבטיחות של מערכות בינה מלאכותית.

קראו במקור

תגובות בפייסבוק:

תגובות

תפריט נגישות