Microsoft Researchers Show AI Agents Can Be Backdoored by Editing Fewer Than 10 Neurons
An AI model can be given a hidden backdoor by editing fewer than 10 of its rarely used neurons, without retraining the model, Microsoft researchers have shown. When a chosen trigger appears, the model outputs an attacker's command, which an agent using that model would run with the agent's own permi
مصدر واحد حتى الآن — تحقّق من المصدر الأصلي. Single source so far — check the original source. حالة التحقق Verification status البرمجية الخبيثة The malware ملخص المصدر (The Hacker News (RSS)): Source summary (The Hacker News (RSS)): أظهر باحثون في مايكروسوفت أن نموذج ذكاء اصطناعي يمكن إعطاؤه بابًا خلفيًا مخفيًا عبر تعديل أقل من 10 من عصبوناته النادرة الاستخدام، دون إعادة تدريب النموذج. وعند ظهور محفّز محدد يُخرج النموذج أمرًا يحدده المهاجم، ينفذه الوكيل الذي يستخدم النموذج بصلاحياته الخاصة. ويتطلب ذلك قدرة المهاجم على تغيير أوزان النموذج. واختبر الفريق الطريقة على نموذج لم يُذكر اسمه في المعطيات. Microsoft researchers showed that an AI model can be given a hidden backdoor by editing fewer than 10 of its rarely used neurons, without retraining the model. When a chosen trigger appears, the model outputs an attacker's command, which an agent using that model would run with the agent's own permissions. The attacker must be able to change the model's weights. The team tested the method on a model not named in the facts. الإرشادات أدناه عامة وتعليمية، وليست تفاصيل خاصة بهذه الحادثة. The guidance below is general and educational — not details of this specific incident. استخدم أدوات حماية محدثة وراجع مؤشرات الاختراق التي ينشرها المصدر الأصلي. Use up-to-date protection and check indicators published by the original source. كيف أعرف إن كان جهازي مصابًا؟ How do I know if I'm infected? اعزل الجهاز عن الشبكة ثم تواصل مع فريق الأمن. Isolate the device from the network, then contact your se