Le biais algorithmique - Oui, C'est Réel

Le biais algorithmique existe, et ses implications sont réelles et peuvent être potentiellement graves. Malgré le sentiment d'émerveillement et de mysticisme que suscite parfois ce sujet, l'intelligence artificielle (IA) n'est pas magique. En soi, l'IA ne peut pas résoudre tous les défis du monde. Elle n'est pas non réservée  aux génies détenteurs  de doctorats pour l’utiliser, la comprendre et l'apprécier.

Les humains sont derrière les algorithmes et lorsqu'il s'agit d'apprentissage automatique ou ‘machine learning’, l'un des sous-ensembles de l'IA dont on parle le plus, les préjugés algorithmiques ont tendance à se manifester. L’apprentissage automatique est l'utilisation et le développement de systèmes informatiques capables d'apprendre et de s'adapter sans suivre d'instructions explicites en utilisant des algorithmes et des modèles statistiques pour analyser et tirer des conclusions. Les systèmes d'IA utilisent ensuite des tendances pour formuler des hypothèses à partir de cette base de données.

Rien de magique

Tout est question d'algorithmes, de données et d’apprentissage de données— pas de magie. Lorsque les études montrent qu'il existe un enjeu de diversité au sein de l'industrie de l'IA, on comprend mieux le rôle que les préjugés inconscients peuvent jouer dans le développement. Les êtres humains peuvent transférer leurs propres préjugés implicites aux algorithmes, ce qui entraîne des erreurs systématiques et reproductibles dans les systèmes et les modèles.

Parallèlement, il ne faut pas sous-estimer le potentiel considérable de l'IA pour éliminer et corriger les préjugés et favoriser une plus grande diversité. Toutefois, il faut que les bons paramètres soient mis en place pour que cela se produise. 

Pourquoi c’est important

Étant donné que l'IA est utilisée pour résoudre des problèmes sociaux, médicaux, éducatifs, environnementaux et toute une série de défis commerciaux, le biais algorithmique peut avoir des conséquences réelles. Prenez, par exemple, le logiciel de reconnaissance faciale utilisé par certaines forces de police pour comparer les photos des suspects aux photos d'identité judiciaire et aux images des permis de conduire. Les recherches ont montré que la précision la plus faible est systématiquement observée chez les sujets de sexe féminin, de race noire et âgés de 18 à 30 ans. Dans le domaine des soins de santé, un manque d'intégrité des données peut favoriser les inégalités en matière de santé.

Cependant, la plupart des gens ne cherchent pas délibérément à créer des algorithmes biaisés et ceux qui prennent les décisions concernant les applications commerciales de l'IA ne sont pas souvent conscients du biais intégré dans leurs modèles.

Aucune de ces informations n'est nouvelle. Bien que nous ayons encore beaucoup à faire et à apprendre en matière d'IA, il existe des mesures pratiques que nous devons prendre pour nous assurer de faire mieux.

Voici quatre mesures que l'industrie de l'IA doit envisager pour aider à surmonter les préjugés :

Sensibiliser l'ensemble de l'organisation. L'innovation n'est pas une excuse pour l'ignorance. Bien sûr, nous apprenons au fur et à mesure, mais ce n'est pas une raison pour faire l'autruche. Veiller à ce que toutes les personnes qui ont un impact sur le développement des systèmes et des modèles comprennent que le biais algorithmique existe. Aidez-les à comprendre le rôle des préjugés inconscients et la façon dont ils peuvent s'insinuer dans notre travail malgré nos bonnes intentions.

Embauchez des personnes plus diverses. Pour résoudre les problèmes du monde réel à grande échelle, les experts en IA doivent représenter les populations qu'ils touchent. Si vous avez du mal à recruter de la main-d'œuvre diversifiée, parlez aux personnes qui seront touchées par vos programmes. Consultez les gens pour cerner les préoccupations. Le développement ne peut se faire dans le vide.

Arrêtez de vous fier aux données historiques. On se fie encore trop aux données historiques lorsqu'il s'agit de collecter des données. Les données historiques posent un problème lorsqu'elles ne reflètent plus la réalité actuelle.

Rendre l'IA explicable et transparente. En matière d'IA, les entreprises doivent privilégier l'interprétation, la compréhension et la transparence.  Nous serons en mesure d'instaurer la confiance dans l'IA lorsque nous construirons des systèmes dont le fonctionnement est transparent, de sorte que tous les humains puissent comprendre comment ces systèmes arrivent à leurs décisions et à leurs prédictions. Une IA explicable est une IA responsable.

L'IA peut effectivement jouer un rôle dans la correction des préjugés existants, mais il faut d'abord mettre en place les conditions nécessaires pour empêcher les experts en IA de transférer leurs propres préjugés inconscients dans leur travail. 

L'IA ne se gère pas toute seule. Les experts en IA doivent mettre en place une gouvernance appropriée. Ils doivent être conscients de leurs propres préjugés. Ils doivent s'assurer que des voix diverses s'expriment autour de la table lorsqu'il s'agit de prendre des décisions. Et ils doivent veiller à ce que les algorithmes soient explicables et transparents.  

Lorsque tous ces paramètres sont réunis, l'IA peut absolument être un outil puissant pour aider à combattre les préjugés et contribuer à la prise de décision au sein des organisations.