ChatGPT et la surveillance humaine : comment vos conversations sont analysées

18 septembre 2026 0 Par eternos974

Votre conversation avec ChatGPT pourrait être lue par un humain. C’est le cœur de l’enquête menée par 404 Media, qui révèle que OpenAI, via le « Projet Lily », fait appel à des prestataires pour analyser les échanges des utilisateurs. Ces réviseurs, anonymisés, relisent les requêtes et les réponses générées par le chatbot, notant les comportements à corriger. Le but ? Éliminer des tics comme l’anthropomorphisme ou la complaisance excessive de GPT-4o.

La mécanique est simple mais inquiétante. Les réviseurs reçoivent des résumés des « souvenirs » que ChatGPT construit sur les utilisateurs—lieux de résidence, professions, situations familiales. Même si OpenAI promet un « filtre de confidentialité », ce dernier ne semble pas totalement fiable. Selon 404 Media, des informations identifiables parviennent parfois aux réviseurs. Et ce n’est pas un phénomène isolé : Anthropic et Google utilisent également des humains pour entraîner leurs modèles, comme Claude et Gemini.

Les enjeux éthiques sont multiples. D’un côté, cette surveillance humaine permet d’améliorer la qualité des réponses. De l’autre, elle soulève des questions sur la protection des données. Même si les utilisateurs peuvent désactiver l’option via les paramètres, les conversations antérieures restent accessibles. Et les analyses automatisées pour repérer les violations des conditions d’utilisation continuent de s’appliquer, quel que soit le réglage.

Cette pratique révèle un dilemme de l’IA : comment concilier innovation et transparence ? Les utilisateurs, confrontés à cette réalité, doivent-ils accepter un compromis entre confort et confidentialité ? La réponse dépendra peut-être de la manière dont les entreprises comme OpenAI géreront les limites de leur technologie, tout en respectant les attentes des utilisateurs.