"Le consentement est plus que douteux": sur Copilot, derrière les retouches d’images générées par l’IA, des sous-traitants humains peuvent accéder aux photos intimes envoyées par les utilisateurs
Derrière certaines retouches réalisées par une IA se cache encore une paire d'yeux bien humaine. Et elle peut voir beaucoup plus que ce que les utilisateurs de Copilot imaginent. Une enquête de 404 Media révèle que des sous-traitants chargés d’améliorer l’intelligence artificielle de Microsoft ont accès à certaines requêtes adressées au chatbot... mais aussi aux photographies téléchargées par ses utilisateurs. Leur travail consiste notamment à regarder l’image originale et à départager deux versions produites par l’IA pour choisir la meilleure.
Et certaines images sont particulièrement intimes d’après les documents consultés par le média, qui comprennent notamment des guides d’instructions destinés aux prestataires, des requêtes et images issues de Copilot ainsi que des échanges entre travailleurs sur un forum interne. Les travailleurs peuvent ainsi tomber sur des demandes visant à raccourcir la jupe d’une femme, augmenter sa poitrine ou la placer dans une position suggestive.
"Les visages ne sont jamais censurés, et nombre des sujets sont à caractère sexuel et le consentement est plus que douteux", raconte à 404 Media un sous-traitant ayant travaillé sur ces contenus.
Pas des modérateurs, mais des juges de l'IA
L'un des travailleurs affirme être tombé sur une série de huit photographies prises sous des jupes. D'autres racontent avoir vu des requêtes concernant des positions sexuelles, des contenus faisant l’apologie de l’anorexie ou encore une demande visant à représenter Ariana Grande atteinte de cette maladie. "J'ai été horrifié", raconte l'un des prestataires. Une autre assure avoir vu des images "de sorte de sacrifice d'animaux".
Ces humains ne sont pourtant pas là pour modérer Copilot. C'est toute la particularité du système décrit par 404 Media. Les prestataires sont chargés d'évaluer la qualité des résultats produits par l'intelligence artificielle, y compris lorsque la demande initiale est sexuelle ou choquante.
Pour chaque tâche, ils découvrent la requête originale de l’utilisateur, l’image qu’il a téléchargée et deux propositions générées par Copilot. Ils doivent ensuite déterminer laquelle des deux respecte le mieux la consigne, préserve les éléments qui ne devaient pas être modifiés, comporte le moins d'artefacts et offre la meilleure qualité générale. Dans le cas d’une demande visant à augmenter la poitrine d’une femme, leur travail peut donc consister, très concrètement, à déterminer si Copilot l’a suffisamment fait.
Les instructions internes insistent même sur l’importance du jugement humain. "Fiez-vous à votre intuition", demandent-elles aux prestataires lorsqu’ils comparent les deux résultats. "Votre première impression, en tant qu'observateur humain, est importante", précise ainsi une série d'instructions remise aux sous-traitants. "L’intuition humaine est douée pour percevoir des différences de qualité subtiles, difficiles à exprimer."
Car derrière un outil vendu sur sa capacité à automatiser la création d’images, Microsoft a encore besoin d'humains pour apprendre à la machine ce qui constitue une bonne retouche. Y compris lorsqu'ils préféreraient ne pas avoir à la regarder.
Des contenus sensibles sans avertissement
Le problème ne tient donc pas seulement à la nature des images, mais aux conditions dans lesquelles elles apparaissent. Plusieurs prestataires disent avoir accepté des tâches sans savoir qu'elles contiendraient des contenus explicites, dangereux, voire potentiellement illégaux. Après avoir découvert les huit photographies prises sous des jupes, l'un d'eux a ainsi demandé à ses responsables qu'un avertissement soit ajouté avant l'ouverture de ce type de tâche.
Une partie de ces travailleurs passe par Prolific, une plateforme qui fournit notamment aux entreprises d'IA des évaluations humaines de leurs modèles. "Une prudence particulière est de mise concernant les contenus perturbants ou explicites utilisés par les IA génératives. En effet, contrairement aux contenus traditionnels, les chercheurs ne peuvent pas contrôler pleinement ce qui est montré aux participants", précise elle-même l'entreprise.
Ce type de travail invisible n’est pas nouveau. Depuis des années, les réseaux sociaux s’appuient sur des armées de sous-traitants chargés de regarder les pires contenus publiés sur leurs plateformes. L’essor de l’IA générative a lui aussi créé une main-d’œuvre chargée d’annoter des données, d’évaluer les réponses des modèles ou de leur apprendre à éviter certains contenus toxiques.
Une conversation pas si privée
Le hic, c’est que les images examinées ne sont pas simplement des publications accessibles sur un réseau social. Il peut s'agir de fichiers qu’un utilisateur a lui-même téléchargés dans une conversation avec Copilot, en pouvant penser que l’échange restera entre lui et le chatbot.
404 Media affirme que plusieurs centaines de personnes peuvent être amenées à examiner certaines requêtes et images téléchargées dans Copilot. Le média avait déjà documenté un fonctionnement comparable pour des conversations avec ChatGPT, dont certaines sont examinées par des sous-traitants chargés d'améliorer les réponses du modèle.
De son côté, Microsoft ne conteste pas le recours à ces données. “Microsoft utilise les données client conformément à ses conditions d'utilisation, notamment pour améliorer ses produits et respecter son code de conduite”, répond un porte-parole. Prolific n'a, de son côté, pas répondu aux sollicitations du média.
L'affaire intervient alors que les outils d'intelligence artificielle de Microsoft ont déjà été détournés pour produire des images sexuelles de personnes sans leur consentement. En 2024, une faille de Microsoft Designer avait notamment été exploitée pour générer de fausses images pornographiques de Taylor Swift, diffusées ensuite massivement sur les réseaux sociaux.
Derrière l’IA censée retoucher les images en quelques secondes, il reste donc encore des humains. Et parfois, ils regardent des choses que les utilisateurs pensaient n’avoir montrées qu’à une machine.