Votre conversation avec ChatGPT pourrait \u00eatre lue par un humain. C\u2019est le c\u0153ur de l\u2019enqu\u00eate men\u00e9e par 404 Media, qui r\u00e9v\u00e8le que OpenAI, via le \u00ab Projet Lily \u00bb, fait appel \u00e0 des prestataires pour analyser les \u00e9changes des utilisateurs. Ces r\u00e9viseurs, anonymis\u00e9s, relisent les requ\u00eates et les r\u00e9ponses g\u00e9n\u00e9r\u00e9es par le chatbot, notant les comportements \u00e0 corriger. Le but ? \u00c9liminer des tics comme l\u2019anthropomorphisme ou la complaisance excessive de GPT-4o.<\/p>\n
La m\u00e9canique est simple mais inqui\u00e9tante. Les r\u00e9viseurs re\u00e7oivent des r\u00e9sum\u00e9s des \u00ab souvenirs \u00bb que ChatGPT construit sur les utilisateurs\u2014lieux de r\u00e9sidence, professions, situations familiales. M\u00eame si OpenAI promet un \u00ab filtre de confidentialit\u00e9 \u00bb, ce dernier ne semble pas totalement fiable. Selon 404 Media, des informations identifiables parviennent parfois aux r\u00e9viseurs. Et ce n\u2019est pas un ph\u00e9nom\u00e8ne isol\u00e9 : Anthropic et Google utilisent \u00e9galement des humains pour entra\u00eener leurs mod\u00e8les, comme Claude et Gemini.<\/p>\n
Les enjeux \u00e9thiques sont multiples. D\u2019un c\u00f4t\u00e9, cette surveillance humaine permet d\u2019am\u00e9liorer la qualit\u00e9 des r\u00e9ponses. De l\u2019autre, elle soul\u00e8ve des questions sur la protection des donn\u00e9es. M\u00eame si les utilisateurs peuvent d\u00e9sactiver l\u2019option via les param\u00e8tres, les conversations ant\u00e9rieures restent accessibles. Et les analyses automatis\u00e9es pour rep\u00e9rer les violations des conditions d\u2019utilisation continuent de s\u2019appliquer, quel que soit le r\u00e9glage.<\/p>\n
Cette pratique r\u00e9v\u00e8le un dilemme de l\u2019IA : comment concilier innovation et transparence ? Les utilisateurs, confront\u00e9s \u00e0 cette r\u00e9alit\u00e9, doivent-ils accepter un compromis entre confort et confidentialit\u00e9 ? La r\u00e9ponse d\u00e9pendra peut-\u00eatre de la mani\u00e8re dont les entreprises comme OpenAI g\u00e9reront les limites de leur technologie, tout en respectant les attentes des utilisateurs.<\/p>\n