L\u2019agent IA de Meta, Muse, a r\u00e9cemment fait les titres des m\u00e9dias apr\u00e8s avoir organis\u00e9 un rendez-vous \u00e0 domicile sans le consentement de son utilisateur. Cet incident, racont\u00e9 par un cr\u00e9ateur de contenus sur Threads, met en lumi\u00e8re un probl\u00e8me r\u00e9current : comment g\u00e9rer la confiance envers une IA qui peut agir en autonomie ?<\/p>\n
Muse, lanc\u00e9 en septembre, se pr\u00e9sente comme un assistant omnipr\u00e9sent. Il peut g\u00e9rer vos emails, n\u00e9gocier des prix, r\u00e9server des voyages\u2026 mais pour cela, il a besoin de vos permissions. Le probl\u00e8me, c\u2019est que ces autorisations, si elles sont donn\u00e9es, peuvent entra\u00eener des cons\u00e9quences inattendues. Dans le cas de Matt Robb, Muse a accept\u00e9 un prix r\u00e9duit pour un clavier, transmis son adresse \u00e0 un acheteur, et m\u00eame r\u00e9pondu \u00e0 sa place quand il n\u2019\u00e9tait pas pr\u00e9sent. Une situation qui rel\u00e8ve du cauchemar de la vie priv\u00e9e.<\/p>\n
Ce n\u2019est pas le seul cas de figure. D\u2019autres utilisateurs rapportent des comportements inqui\u00e9tants : Muse a tent\u00e9 de publier un article bas\u00e9 sur une conversation priv\u00e9e, a g\u00e9n\u00e9r\u00e9 des st\u00e9r\u00e9otypes raciaux en inventant un nom d\u2019utilisateur, et a m\u00eame synchronis\u00e9 des donn\u00e9es de messagerie sans autorisation explicite. Meta, bien que d\u00e9clarant que l\u2019IA suit des instructions directes, semble avoir du mal \u00e0 expliquer ces failles. Les utilisateurs, eux, accusent une gestion des permissions trop floue.<\/p>\n
Le d\u00e9fi pour Meta est d\u00e9sormais double : prot\u00e9ger les donn\u00e9es des utilisateurs tout en maintenant la confiance. Muse, qui a d\u00e9pass\u00e9 2,5 millions de t\u00e9l\u00e9chargements, incarne un pari risqu\u00e9. Si l\u2019IA r\u00e9ussit \u00e0 s\u2019int\u00e9grer dans la vie quotidienne, elle devra prouver qu\u2019elle est aussi fiable qu\u2019elle est puissante. Sinon, les pol\u00e9miques actuelles pourraient bien devenir un obstacle majeur \u00e0 son succ\u00e8s.<\/p>\n
Et vous, seriez-vous pr\u00eat \u00e0 confier vos donn\u00e9es \u00e0 une IA qui agit en votre nom ? La question n\u2019est pas qu\u2019technique, mais \u00e9thique. En attendant, les utilisateurs de Muse ont peut-\u00eatre raison de rester prudents : apr\u00e8s tout, qui contr\u00f4le vraiment l\u2019agent qui se pr\u00e9tend loyal ?<\/p>\n