« L’éthique de l’IA est pensée sans souci du bien commun »

Jean-Michel Besnier, philosophe des technologies à la Sorbonne Paris-IV, auteur de L’Homme simplifié

Quel rapport entre l’intelligence artificielle (IA) et la bioéthique ?

Pour la première fois l’IA est un thème des lois bioéthique. D’abord parce que la technologie, dont l’IA est un peu la « reine », est de plus en plus présente dans le domaine de la santé.

L’humain est de plus en plus considéré sous l’angle de l’algorithme.

Mais aussi pour une raison plus fondamentale, avec son intrusion croissante dans nos vies, qui nous fait de plus en plus considérer l’humain sous l’angle de l’algorithme.

Ainsi, dans les laboratoires, l’homme est envisagé comme un réservoir de gènes à décrypter ; dans la médecine, il est soigné comme une machine à réparer ; la vie elle-même est de plus en plus évaluée comme une simple fonction réglée par des organes. C’est un sujet pour la bioéthique.

L’IA présente-t-elle des risques qui demanderaient un cadre légal ?

L’engouement actuel pour l’IA crée des craintes et des fascinations. Pour certains, comme les transhumanistes, l’IA nous fera accéder à la compréhension totale du vivant et de toute chose, de l’infiniment petit à l’infiniment grand, comme à la compréhension complète du cerveau.

Il s’agit certes d’une mystique, mais elle atteint dès aujourd’hui la vision que nous avons de l’humain, considéré de plus en plus comme une simple mécanique, sur laquelle les logiciels pourraient facilement prendre le pas.

Dans le travail de raisonnement, par exemple, des algorithmes permettent déjà de produire des résumés d’articles scientifiques ou de se substituer à un DRH pour recruter. L’IA représente de plus en plus une relève qui rend caduque l’intelligence humaine.

Certains prédisent même qu’elle remplacera l’intelligence biologique aux environs de 2050 quand son initiative nous échappera.

De manière moins spectaculaire, on voit déjà apparaître, dans le travail notamment, un « homme simplifié », invité par les machines à accorder de moins en moins d’importance à la conscience, au raisonnement, pour être plus soucieux de réactivité.

La réflexion éthique consiste, tout d’abord, à distinguer ce que l’IA rend possible et ce qui relève du fantasme, puis à étudier son acceptabilité. Concrètement, doit-on accepter par exemple que la médecine se limite de plus en plus à recourir à un algorithme pour réaliser un diagnostic et proposer un traitement, sans plus prendre en compte chez le patient les aspects psychologiques, la sensibilité… ?

Ces sujets suscitent peu d’intérêt…

Le manque de conscience citoyenne vient d’un fatalisme face à l’hégémonie de l’innovation technologique et de la mystique transhumaniste, mais il vient aussi de la faible culture technologique.

Pour la plupart, la technique est encore un outil servant à dominer la nature, alors qu’elle est devenue une culture à part entière, dans laquelle nous sommes immergés et qui influence nos manières de penser.

Une inquiétude émerge sur l’accaparement des données individuelles ou les pertes d’emplois provoquées par l’IA.

Mais du côté des politiques, l’éthique sur ce sujet – notamment dans le rapport Villani – est pensée très sommairement en termes d’avantages et d’inconvénients, sans idée du bien commun, du vivre-ensemble, de ce qui est désirable pour notre société.

Propos recueillis par Félicité de Maupeou