mes publications

 

coopération

Les enjeux éthiques de l’arrivée de l’intelligence artificielle dans l’entreprise

La mise en place de robots et d’algorithmes auto-apprenants remplaçant l’homme dans certaines de ses tâches, posent de nombreuses questions éthiques. Quel degré d’autonomie doit-on leur laisser ? Comment nos données seront utilisées ?  Comment s’assurer que l’auto-apprentissage ne conduise pas à des dérives ? Qui sera responsable d’une mauvaise décision d’un robot ?
Derrière ces questions, il a y des notions de  transparence et de contrôle de ces machines, ce qui peut structurer une réflexion sur les garde-fous à mettre en place pour éviter ou du moins limiter les risques de dérive. Si l’on cherche à les identifier, on peut citer :
  • L’utilisation de données privées pour alimenter l’algorithme : à l’entreprise de vérifier quelles données sont collectées, quel information est donnée au personnes concernées, quel contrôle est laissé aux propriétaires, …
  • Le type d’apprentissage : l’IA apprend constamment en reproduisant des réponses ou des comportements. La qualité de l’environnement qu’on lui fournit doit donc être régulièrement vérifiée pour éviter l’intégration de biais ou de toute forme de discrimination.
  • Le degré de confiance de l’homme dans la machine. On peut imaginer que l’on ait petit à petit envie de s’appuyer de plus en plus sur la machine pour peu qu’elle nous soulage dans nos tâches, avec le risque que l’homme fasse baisser sa vigilance, en laissant trop d’autonomie aux robots. Avec également le risque de  perdre des compétences, ce qui nuirait à la capacité de contrôle des humains.
Pour limiter ces risques, il est important de garder un bon contrôle de ce que font les robots, chatbots et autres algorithmes. Cela passe par:
  • La traçabilité  et l’archivage des décisions prises par l’algorithme avec une personne responsable, chargée de surveiller les résultats et de gérer les problèmes. Elle devra être capable de retrouver et d’expliquer les décisions prises.
  • La mise en place d’auditeurs, capables de vérifier le bon fonctionnement du système (données d’entrées, système de calcul, impartialité,…).
  • La création du rôle d’éducateur pour vérifier que l’apprentissage en temps réel des algorithmes est en phase avec les objectifs, les résultats attendus, les valeurs, la culture de l’entreprise.
L’homme peut et doit rester au cœur du processus pour que l’IA ait un apport positif dans l’entreprise.
 
Lien vers le pdf de la news 09/11/2018 - © NextStep Coaching
Accueil Accueil