"C'est profondément destructeur": beauté standardisée et consommation programmée, quand ChatGPT transforme nos rêves intimes de perfection en opportunités marketing (3/3)

Assistant au travail, médecin, psychologue, agent de voyage... Chaque jour, ChatGPT investit un peu plus la vie des utilisateurs. Et depuis peu, le plus célèbre des chatbots a endossé une nouvelle casquette: celle de coach beauté.

Sur les réseaux sociaux, Tiktok en tête, les internautes s'amusent à demander des conseils à l'outil d'OpenAI pour "glow-up", c'est-à-dire s'embellir. Avec un simple selfie, l'IA recrache, en quelques secondes, une dizaine de conseils pour améliorer ses cheveux, sa peau ou encore son style.

"En compétition avec une meilleure version de soi"

A en juger par les réactions sur la plateforme de vidéos courtes, les utilisateurs semblent plus que satisfaits des réponses du coach beauté 2.0, perçu comme plus objectif que l'entourage. Un avis loin d'être partagé par les experts. "Enlever le côté un peu trop subjectif des amis", peut être dangereux selon Paola Scemama Ittah, neuropsychologue et psychologue clinicienne interrogée par Tech&Co. "On ne se réfère plus à ce que les autres peuvent aimer, ni à ce que nous-mêmes on aime. On va privilégier ce que l'IA va penser de nous."

Pourtant ces outils sont loin d'être neutres. Au contraire, l'IA comporte des biais cachés qui reflètent aussi bien ses données d'entraînement que les motivations financières de leurs créateurs. Pour preuve, après avoir distillé ses précieux conseils, ChatGPT ne rate pas l'occasion de montrer ses prouesses en génération d'image. "Tu veux que je te fasse un look complet avec les produits exacts, en fonction de ton budget ou de ta vibe? Ou je te propose un avant/après visuel version stylisée?", propose le chatbot.

Chez Tech&Co, on s'est laissés tenter. Et le résultat a été plus qu'édifiant. Des lèvres botoxées, quelques kilos de moins et une forme de visage totalement différente.

"On dirait une photo de magazine", observe auprès de Tech&Co Marie Jourdan, dermatologue. "C'est une image de la perfection selon l'IA. Mais vous faire courir après ça, ça peut être délétère. Est-ce vraiment rendre service à quelqu'un que de lui offrir un miroir avec la meilleure version de lui-même, mais après laquelle il va toujours courir?"; questionne-t-elle.

"Entraînées sur tout internet"

"Ce sont des photos qui sont presque irréelles. On peut se reconnaître, mais elles sont retouchées. Là, on se retrouve en compétition avec une soi-disant meilleure version de nous-même qui n'a rien à voir avec la réalité", confirme Marie Fourmeaux, styliste et conseillère en image. "On ne sait pas comment il a été nourrie, avec quels référentiels de beauté."

Justement, un chatbot est entraîné avec une multitude de contenus... plus ou moins qualitatifs. "Nos outils numériques, et particulièrement les intelligences artificielles génératives ne sont pas des objets neutres. On peut considérer qu'elles sont entraînées sur tout internet", rappelle Mathilde Saliou, journaliste spécialisée dans la tech et auteure de Technoféminisme, comment le numérique aggrave les inégalités, (Grasset, 2023).

Un fouilli numérique qui comprend aussi bien les réseaux sociaux, les blogs beauté, que les forums masculinistes. L'outil peut tout aussi bien s'inspirer d'une influenceuse beauté reconnue, que d'un forum de discussion mal intentionné sur Reddit.

"ChatGPT a notamment été entraîné sur les forums où des hommes passent des heures à noter des femmes (...) et sur des forums où il est parfaitement admis d'avoir des propos racistes ou sexistes. C'est une certaine idée de la beauté. Avant de lui poser une question, il faut se demander: qu'est-ce que la beauté pour ChatGPT?"

Une vision (trop) européanisée

OpenAI n'a pas divulgué les bases de données sur lesquelles ChatGPT s'est entraîné. Si celles-ci contiennent des idées diverses, les IA ont tendance à mettre en avant des images standardisées et stéréotypées. Résultat, le chatbot d'OpenAI refourgue à tous ses utilisateurs en quête de beauté parfaite la même vision rigide de la beauté: l'idéal occidental de la femme blanche, blonde aux yeux bleus, grande et jeune, donc.

"Ce que la machine a plutôt tendance à faire, c'est reproduire, voire aggraver des stéréotypes qui existent dans la société", déplore l'experte en IA.

Avec le risque, de voir apparaître une armée de jeunes femmes clonées. "A partir du moment où on est tous claqués sur le même style, une partie de nous est gommée. La beauté reste très subjective. On ne peut pas la mettre dans une case", insiste Paola Scemama Ittah.

"C'est profondément destructeur que de dire à quelqu'un que, pour s'améliorer, il doit ressembler à un standard de beauté, en général trop européanisé", insiste-t-elle. "On est sur quelque chose qui se voulait bon enfant qui dérive vers de la chirurgie esthétique. L'IA va parfois proposer des résultats impossibles. Ce qui peut être frustrant pour les utilisateurs."

"Frustrant" et "destructeur", donc. Des adjectifs surprenants pour un outil censé, selon le marketing des start-up d'IA, être un assistant, voir un compagnon de vie. Pourtant, les experts interrogés par Tech&Co sont loin d'être étonnés par ces résultats. Car en réalité, les suggestions du chatbot servent, non pas les intérêts des utilisateurs, mais ceux de ses créateurs.

Pousser à la consommation

"L'IA fait simplement écho à ce qu'elle voit en ligne, et une grande partie de cela a été conçue pour que les gens se sentent mal dans leur peau et achètent plus de produits", souligne, dans le Washington Post, Emily Pfeiffer, analyste commerciale chez Forrester.

En effet, les entreprises d'IA sont à la recherche de nouvelles sources de revenus. L'affichage de produits et de publicités sponsorisés par des chatbots est une des pistes envisagées par les start-up. Ainsi, Perplexity AI a déjà intégré une fonctionnalité shopping à l'interface de son chatbot, et la beauté est la troisième catégorie la plus recherchée.

ChatGPT suit le même chemin. Depuis avril dernier, le chatbot affiche l'image et les liens des produits qu'il propose. Fin septembre, la fonctionnalité "instant checkout" a été lancée. Elle permet aux utilisateurs américains d'acheter un article en quelques clics, sans quitter une conversation.

Avec le déploiement des fonctionnalités d'achat, les consommateurs pourraient commencer à voir des recommandations de produits sans savoir pourquoi le robot les choisit. "Ca pose aussi la question du référencement des marques. Il y a vraiment une marque qui revient plus que les autres", remarque Marie Jourdan, interloquée par la récurrence de la marque La Roche Posay dans les conseils du chatbot. "Est-ce que c’est sa présence sur le net qui fait qu’elle va être plus citée?"

"C’est tout à fait envisageable que des entreprises essayent de pousser un nombre incommensurable de fois des discours en leur faveur dans des modèles grand public et qu’à terme, le modèle tende à proposer cette marque beaucoup plus fréquemment", prophétise Mathilde Saliou.

C'est d'ailleurs déjà le cas. Certaines marques tentent d'augmenter leur visibilité pour être citées par les IA génératives, qui ne s'appuient pas sur les mêmes informations que les moteurs de recherche. "ChatGPT, lui, va plutôt citer des comparateurs, tandis que Gemini et Perplexity valorisent davantage les guides. Pour être cité dans les principales IA, il faudra combiner ces approches et proposer les deux types de contenus", souligne pour le Blog du modérateur, Mikaël Priol, fondateur de la plateforme Seo.fr. Un énième biais qui s'ajoute à la liste des facteurs qui influencent les chatbots.

De son côté, Leah Seay Anise, porte-parole d'OpenAI, a déclaré au Washington Post que l'entreprise disposait d'équipes travaillant à réduire les biais dans ses modèles. Elle a refusé de préciser si la technologie de ChatGPT était entraînée sur du contenu classant l'attractivité. "Les fonctionnalités d'achat sont nouvelles et sont encore en cours d'amélioration", a-t-elle simplement précisé.

En attendant que ChatGPT "glow-up" à son tour, grâce à de futures mises à jour, mieux vaut donc laisser son relooking aux professionnels. Ou tout simplement, essayer de s'accepter.