Quelle éthique de l'intelligence artificielle (IA) ? 

Les progrès récents de l’IA dans de nombreux domaines (voitures autonomes, reconnaissance d’images, assistants virtuels) et son influence croissante sur nos vies renforcent sa place dans le débat public. Ce débat a notamment pris la forme d’une large réflexion sur les enjeux éthiques liés au développement des technologies d’intelligence artificielle et plus largement des algorithmes.

Loin des considérations spéculatives sur les menaces existentielles de l’IA pour l’humanité, les réflexions tendent à se cristalliser autour des algorithmes du « quotidien », qui peuvent d’ores et déjà avoir des conséquences importantes sur nos vies. La communauté scientifique, les pouvoirs publics, les industriels, les entrepreneurs et les organisations de la société civile sont tous concernés. 

Ouvrir les boîtes noires 

Une grande partie des considérations éthiques soulevées tiennent à l’opacité de ces technologies : l’IA donne aujourd’hui des résultats spectaculaires, pour des raisons que les chercheurs ont parfois du mal à expliquer. C’est le fameux problème de la boîte noire : des systèmes algorithmiques dont il est possible d’observer les données d’entrée (input), les données de sortie (output), mais dont on comprend mal le fonctionnement interne. Dans un contexte où l’IA est susceptible de reproduire des biais et des discriminations, et à mesure de son irruption dans nos vies sociales et économiques, être en mesure « d’ouvrir les boîtes noires » tient de l’enjeu démocratique.

L’explicabilité des algorithmes d’apprentissage automatique est un sujet si pressant qu’il constitue aujourd’hui un champ de recherche spécifique. Trois axes en particulier semblent mériter une attention particulière : la production de modèles plus explicables bien sûr, mais aussi la production d’interfaces utilisateurs plus intelligibles et la compréhension des mécanismes cognitifs à l’œuvre pour produire une explication satisfaisante. Au-delà de la transparence, il apparait nécessaire d’accroître l’auditabilité des systèmes d’IA. 

Penser l’éthique dès la conception 

Les chercheurs, ingénieurs et entrepreneurs qui contribuent à la conception, au développement et à la commercialisation de systèmes d’IA sont amenés à jouer un rôle décisif dans la société numérique de demain. Il est essentiel qu’ils agissent de manière responsable, en prenant en considération les impacts socio-économiques de leurs activités. Pour s’en assurer, il semble nécessaire de les sensibiliser, dès le début de leur formation, aux enjeux éthiques liés au développement des technologies numériques. Aujourd’hui cet enseignement est quasiment absent des cursus des écoles d’ingénieurs ou des parcours informatiques des universités, alors même que le volume et la complexité des problématiques éthiques auxquels ces futurs diplômés seront confrontés ne cessent de croître.

Au-delà de la formation des ingénieurs, les considérations éthiques doivent irriguer le développement même des algorithmes d’intelligence artificielle. Les développeurs d’IA doivent se poser les bonnes questions, au bon moment. Plus généralement, l’utilisation croissante de l’IA dans certains domaines sensibles comme la police, la banque, l’assurance, la justice ou l’armée (avec la question des armes autonomes) appelle un véritable débat de société et une réflexion sur la question de la responsabilité humaine.

Nous devons également nous interroger sur la place de l’automatisation dans les décisions humaines : existent-ils des domaines où le jugement humain, aussi faillible soit-il, ne devrait pas à être remplacé par une machine ?

Source : Rapport public de Cédric Villani – Donner un sens à l’intelligence artificielle. Photo : Gerd Altmann - Pixabay.