Une enqu\u00eate de WIRED, relay\u00e9e par le Journal du Geek, a identifi\u00e9 un r\u00e9seau de plus de 400 applications et domaines li\u00e9s \u00e0 des outils de cr\u00e9ation de deepfakes sexuels. Certains services affichaient d\u2019abord des fonctions ordinaires, par exemple la transformation de photos d\u2019animaux, puis pr\u00e9sentaient d\u2019autres outils dans certaines conditions. Le total associe des applications et des domaines : il ne signifie pas que 400 applications \u00e9taient simultan\u00e9ment disponibles dans les boutiques.<\/p>\n
L\u2019int\u00e9r\u00eat du dossier tient au passage par plusieurs circuits de distribution et de publicit\u00e9. Une pr\u00e9sentation apparemment anodine pouvait coexister avec des fonctionnalit\u00e9s dissimul\u00e9es. Certaines applications \u00e9taient m\u00eame class\u00e9es tout public. Cette diff\u00e9rence entre ce qui est annonc\u00e9 et ce qui devient accessible interroge le contr\u00f4le d\u2019un service au-del\u00e0 de son examen initial.<\/p>\n
Apple a retir\u00e9 19 applications apr\u00e8s v\u00e9rification. Google avait supprim\u00e9 la majorit\u00e9 des applications concern\u00e9es avant la publication de l\u2019enqu\u00eate, sans nombre exact dans les \u00e9l\u00e9ments disponibles. Meta affirme avoir bloqu\u00e9 la promotion de 209 applications et pris des mesures concernant 11 600 comptes publicitaires. Cela ne signifie ni qu\u2019elle a supprim\u00e9 209 applications des boutiques ni que les 11 600 comptes ont tous \u00e9t\u00e9 ferm\u00e9s.<\/p>\n
Ces chiffres ne s\u2019additionnent pas pour former un total de services supprim\u00e9s. Ils d\u00e9crivent des p\u00e9rim\u00e8tres diff\u00e9rents et peuvent concerner des \u00e9l\u00e9ments du m\u00eame r\u00e9seau. Ils ne donnent pas non plus le nombre de personnes victimes des contenus produits, ni le nombre d\u2019utilisateurs de chaque application.<\/p>\n
Le cas rapport\u00e9 montre qu\u2019une fiche, une classification d\u2019\u00e2ge et un examen initial ne d\u00e9crivent pas n\u00e9cessairement toutes les fonctions qu\u2019un service pourra ensuite afficher. Les modalit\u00e9s exactes de s\u00e9lection des interfaces restent partiellement inconnues. Il faut donc distinguer le fonctionnement observ\u00e9 des explications avanc\u00e9es pour comprendre comment les contr\u00f4les ont \u00e9t\u00e9 contourn\u00e9s.<\/p>\n
L\u2019enqu\u00eate rel\u00e8ve aussi la diffusion sur les plateformes de Meta de publicit\u00e9s contenant des contenus p\u00e9docriminels g\u00e9n\u00e9r\u00e9s par IA. Ce constat peut \u00eatre rapport\u00e9 sans reproduire les images, d\u00e9tailler les contenus ou fournir de liens vers ces services. Le bilan disponible permet de d\u00e9crire les retraits annonc\u00e9s, mais pas de mesurer un d\u00e9lai moyen de r\u00e9action ni d\u2019affirmer que le r\u00e9seau a enti\u00e8rement disparu.<\/p>\n