Ethik-IA et ADEL : deux initiatives pour une éthique de l’IA

«La France et l’UE doivent proposer un cadre de déploiement de l’intelligence artificielle », affirme David Gruson, membre de la chaire Santé de Sciences Po Paris et créateur, à l’automne 2017, de l’association Ethik-IA.

Anticiper les risques extrêmes

Ce groupement d’universitaires veut peser dans les débats sur la révision de la loi de bioéthique, et propose des premières clés de régulation.

Notamment l’obligation d’ajouter un regard humain au diagnostic médical réalisé par des machines, ou encore la supervision d’un organisme indépendant contrôlant l’usage des données de santé.

Il milite également pour la création d’une fondation, intégrée au CCNE, qui réfléchirait à la régulation du déploiement de la robotisation en santé. « Sur le sujet de l’intelligence artificielle, il faut adopter une posture de “catastrophisme éclairé”, c’est-à-dire anticiper le risque théorique le plus extrême et essayer de le prévenir », avance David Gruson, ancien délégué général de la fédération hospitalière de France.

« Ce risque extrême est l’absorption complète du génome par une IA non maîtrisée, qui pourrait comprendre le déterminisme génétique [tel gène donne telle caractéristique, ndlr], avec un risque de dérives eugénistes. »

Du côté des entreprises, une autre initiative a émergé pour donner un cadre à l’IA : le label ADEL (algorithm data ethics label), premier label sur l’éthique des algorithmes. Créé par Jérôme Béranger, chercheur à l’Inserm, il encadre les pratiques numériques des entreprises maniant des données personnelles et garantit aux citoyens que les données et les algorithmes utilisés sont protégés et fiables.

Félicité de Maupeou