Microsoft Research a pr\u00e9sent\u00e9 Lazarus, une m\u00e9thode exp\u00e9rimentale pour ins\u00e9rer une porte d\u00e9rob\u00e9e dans un mod\u00e8le utilis\u00e9 par un agent d\u2019IA. Elle consiste \u00e0 modifier une petite partie des poids du mod\u00e8le, sans le r\u00e9entra\u00eener. Le mod\u00e8le peut continuer \u00e0 se comporter normalement jusqu\u2019\u00e0 ce qu\u2019un d\u00e9clencheur pr\u00e9cis apparaisse.<\/p>\n
Dans les d\u00e9monstrations, ce d\u00e9clencheur pousse l\u2019agent \u00e0 produire des instructions impr\u00e9vues. Le risque d\u00e9pend des outils et des droits accord\u00e9s \u00e0 l\u2019agent. S\u2019il peut utiliser un terminal, une instruction peut mener \u00e0 l\u2019ex\u00e9cution d\u2019un script ou \u00e0 l\u2019acc\u00e8s \u00e0 des donn\u00e9es que son compte est autoris\u00e9 \u00e0 lire. La d\u00e9monstration suppose que le mod\u00e8le a d\u00e9j\u00e0 \u00e9t\u00e9 modifi\u00e9 en amont.<\/p>\n
Microsoft souligne que des tests ordinaires peuvent passer \u00e0 c\u00f4t\u00e9 d\u2019un comportement qui n\u2019appara\u00eet qu\u2019en pr\u00e9sence du d\u00e9clencheur. Cela donne de l\u2019importance \u00e0 la provenance des mod\u00e8les, \u00e0 l\u2019int\u00e9grit\u00e9 de leurs poids et aux permissions accord\u00e9es aux agents qui les utilisent.<\/p>\n