Comment prévenir la partialité dans le contenu créé par une IA générative.

DEPT®

Цифровой

Amsterdam, Netherlands

See Profile

[article traduit de l'anglais par une IA et une intelligence humaine]

En tant qu’humains, nous sommes influencés.
En conséquence, tout ce que nous créons est également biaisé. Les outils d'intelligence artificielle ne font pas exception. Bien que les retours d'information réguliers contribuent à améliorer les outils existants et futurs, les utilisateurs doivent néanmoins être conscients de ces travers possibles lors de la création de contenu généré par l'IA.

Il est tout à fait compréhensible que de plus en plus d'attention soit portée sur la parité entre les sexes, avec le secteur technologique cherchant à accélérer ces évolutions. Rompre avec les biais et partis pris dans l'IA est important car tous les utilisateurs ne sont pas conscients des biais présents dans leurs résultats générés. Même en tant qu'êtres humains, les normes et les préjugés sont si intériorisés que nous les renforçons souvent sans nous en rendre compte. Par exemple, lorsque nous utilisons les mauvais pronoms pour désigner quelqu'un, ou lorsque nous imaginons un homme en pensant à un médecin.

Connaître ce à quoi il faut être attentif aide les créateurs de contenus, les concepteurs-rédacteurs et tous les autres créatifs à générer et créer un contenu qui aide à refléter la société moderne – ainsi que tous ces membres.

Voici quelques conseils pratiques à l'attention de nos collègues créatifs sur la façon de reconnaître et d'éviter les travers liés au genre, à la race, à l'âge, au statut socio-économique, aux orientations politiques, religieuses, ainsi qu'aux (in)capacités, et aux nombreux autres préjugés subconscients qui existent.

D’où viennent ces travers ?
Voici quelques informations générales sur la manière dont les biais se manifestent dans l'IA. J'ai demandé à ChatGPT de nous en dire plus sur le sujet, car je ne suis évidemment pas spécialiste de la mise en place d'un LLM (Large Language Model) moi-même.

Et voici ce qu’il m’a répondu :

“La partialité dans le contenu généré par une IA peut arriver de nombreuses manières, mais cela découle généralement des orientations présentes dans les données utilisées pour entraîner les modèles d'IA. Voici quelques exemples :
• Données d'entraînement biaisées : Les modèles d'IA peuvent refléter les biais présents dans leurs données d'entraînement si les données ne sont pas diversifiées et inclusives.
• Algorithmes biaisés : Les algorithmes utilisés pour former et déployer les modèles d'IA peuvent introduire de la partialité, comme les algorithmes de reconnaissance faciale qui sont biaisés contre les personnes de couleur en raison d'un manque de données représentatives.
• Influences humaines : Les biais peuvent être introduits par les humains qui conçoivent, forment et déploient les modèles d'IA, notamment si l'équipe n'est pas diversifiée et ne reconnaît pas certains biais dans les données ou les algorithmes.
• Manque de responsabilité : Sans une surveillance et une évaluation adéquates, des modèles d'IA biaisés peuvent être déployés sans que personne ne se rende compte du potentiel préjudiciable

Comment les éviter ?
Maintenant que vous savez comment ils se manifestent dans l'IA, il devrait être "plutôt facile" de trouver des solutions pour éviter l'apparition de ces travers. Le principal sujet concerne l'assurance de la diversité dans les échantillons d'entraînement, tels que des échantillons audio provenant de milieux ou de genres divers, mais bien sûr, il existe d'autres mesures que vous pouvez prendre (pendant la phase d'entraînement de l’IA).

Cependant, en tant que rédacteurs, vous n'influencez souvent pas ces aspects. Mais ce que vous pouvez influencer, ce sont les instructions et l'utilisation des résultats. Mettons cette affirmation en pratique.

Mon équipe de concepteurs-rédacteurs et moi avant posé de multiples questions à ChatGPT. Il y a quelque temps, ChatGPT donnait des réponses plutôt biaisées (sur une note positive : nous avions reçu un avertissement indiquant que le contenu pouvait être en violation de la politique du site). Nous avons remarqué que depuis l'outil devient de moins en moins biaisé, car ses créateurs reçoivent régulièrement des retours, y compris sur ce sujet.

Michelle den Elzen

Team Lead Copywriting — DEPT®

See Profile

DEPT®

Цифровой

Amsterdam, Netherlands

See Profile

DEPT®  l'agence qui créé des expériences technologiques pour les marques est également présente à Paris : plus d'infos ici