Microsoft-onderzoekers tonen aan dat AI-agenten zijn te voorzien van een achterdeur via minder dan tien neuronen

Onderzoekers van Microsoft hebben gedemonstreerd dat een AI-model kan worden voorzien van een verborgen achterdeur door de gewichten van minder dan tien zelden gebruikte neuronen aan te passen, zonder het model te hertrainen. Als een specifiek triggermoment zich voordoet, genereert het model kwaadaardige opdrachten die een gekoppelde AI-agent uitvoert met diens eigen systeembevoegdheden. Dit vereist wel dat de aanvaller toegang heeft tot de modelgewichten.