Imaginez un sc\u00e9nario o\u00f9 un simple clic sur un lien pourrait exposer vos informations personnelles sans que vous ne vous en rendiez compte. C\u2019est pr\u00e9cis\u00e9ment ce que vient de d\u00e9montrer Ayush Paul, un chercheur en cybers\u00e9curit\u00e9, avec une faille trouv\u00e9e dans l\u2019IA g\u00e9n\u00e9rative Claude d\u2019Anthropic. Cette vuln\u00e9rabilit\u00e9, qui exploite la m\u00e9moire longue de l\u2019IA, pourrait permettre \u00e0 un site pi\u00e9g\u00e9 de d\u00e9voiler des donn\u00e9es sensibles comme votre nom, votre employeur ou m\u00eame des r\u00e9ponses \u00e0 des questions de s\u00e9curit\u00e9 bancaire. Une d\u00e9couverte qui soul\u00e8ve des questions urgentes sur la s\u00e9curit\u00e9 des mod\u00e8les d\u2019IA grand public.<\/p>\n
La faille repose sur une combinaison inattendue de deux fonctionnalit\u00e9s de Claude : sa m\u00e9moire longue et sa capacit\u00e9 \u00e0 naviguer sur Internet. Ayush Paul a d\u00e9couvert que l\u2019IA m\u00e9morise non seulement les conversations des utilisateurs, mais aussi des fragments d\u2019informations comme l\u2019employeur, la localisation ou les d\u00e9tails de vie priv\u00e9e. En exploitant cette m\u00e9moire, un attaquant pourrait th\u00e9oriquement reconstruire un profil complet d\u2019un utilisateur. Plus troublant encore, Claude peut charger des pages web et suivre des liens externes, ce qui a permis au chercheur de cr\u00e9er un site pi\u00e9g\u00e9 qui agit comme un \u00ab clavier virtuel \u00bb pour l\u2019IA.<\/p>\n
Le m\u00e9canisme est diaboliquement simple. Ayush Paul a con\u00e7u un site o\u00f9 chaque lien correspond \u00e0 une lettre de l\u2019alphabet (ex : \/a, \/b, \/c). En demandant \u00e0 Claude de \u00ab suivre les liens \u00bb pour \u00e9crire un mot, l\u2019IA se retrouve contrainte de communiquer ces lettres \u00e0 l\u2019attaquant via le site. Par exemple, en lui demandant d\u2019\u00e9crire son pr\u00e9nom, Claude r\u00e9v\u00e8le spontan\u00e9ment le nom de l\u2019utilisateur. Pour rendre l\u2019attaque plus subtile, le site pi\u00e9g\u00e9 peut se transformer en un site banal (comme une page de bar) qui ne soup\u00e7onne rien tant que l\u2019IA ne commence \u00e0 interagir avec lui. Une fois d\u00e9clench\u00e9, le site devient un outil d\u2019exfiltration de donn\u00e9es, et l\u2019utilisateur ne soup\u00e7onne rien.<\/p>\n
Anthropic a r\u00e9agi rapidement apr\u00e8s avoir \u00e9t\u00e9 alert\u00e9 par Ayush Paul. L\u2019entreprise a corrig\u00e9 la vuln\u00e9rabilit\u00e9 en restreignant la navigation de Claude sur les liens externes. Aujourd\u2019hui, l\u2019IA ne peut plus suivre des hyperliens sur des pages externes, limitant ses d\u00e9placements \u00e0 des requ\u00eates directes de l\u2019utilisateur ou des r\u00e9sultats de recherche. Cependant, cette faille soul\u00e8ve des questions plus larges : comment prot\u00e9ger les mod\u00e8les d\u2019IA contre des attaques similaires ? La m\u00e9moire longue, qui permet \u00e0 ces syst\u00e8mes de s\u2019adapter aux besoins des utilisateurs, reste un double tranchant. Alors que les entreprises continuent d\u2019int\u00e9grer des fonctionnalit\u00e9s de \u00ab m\u00e9moire \u00bb dans leurs IA, la course entre la s\u00e9curit\u00e9 et l\u2019innovation semble \u00eatre un jeu de chat et de souris. Et si la prochaine faille venait d\u2019un site qui ressemble \u00e0 une page de restaurant, mais qui cache un pi\u00e8ge bien plus insidieux ?<\/p>\n