« Créer un GIEC des nouvelles technologies »

Quels enjeux avez-vous identifiés ?

L’un des défis majeurs est la protection des données personnelles. Collectées massivement par les GAFAMI, elles servent à catégoriser par profil les personnes, pour intervenir ensuite dans leurs choix futurs. En les dirigeant, par exemple, vers des publicités adaptées à leur profil ou encore en leur proposant des prix en fonction de leur revenu.

La convention 108 du Conseil de l’Europe est censée assurer un « traitement loyal et licite des données de masse », mais les algorithmes de profilage ne sont pas réellement transparents. Difficile donc de contrôler leur honnêteté.

Il est urgent que le profilage soit véritablement transparent et que les procédures de traitement automatisé soient davantage contrôlées.

Que préconisez-vous face à ces dangers ?

Il y a un certain fatalisme face au profilage généralisé et une disparition progressive du droit au respect de la vie privée et à l’anonymat.

Pour que l’ère de la robotique demeure favorable à l’homme, je propose de créer le droit à la tranquillité, c’est-à-dire le droit de refuser de faire l’objet de profils ou d’être géolocalisé.

Il faut aussi créer un droit à pouvoir privilégier de la qualité des relations humaines par rapport à celles prodiguées par un robot pour certaines tâches, comme l’éducation des enfants et les soins aux personnes âgées ou handicapées.

Il faut que les politiques aient le courage d’affronter les GAFAMI.

En outre, je préconise de doter chacun de moyens juridiques de résister à des pressions le soumettant à des technologies qui amélioreraient ses performances, par exemple dans le travail.

A l’échelle internationale, il est nécessaire d’instituer une coopération entre l’UE et l’UNESCO pour organiser un cadre juridique et des mécanismes de régulation de l’IA. Une sorte de GIEC* des nouvelles technologies. La Convention d’Oviedo, qui fixe les principes directeurs destinés à protéger la dignité de l’être humain dans le cadre des progrès de la biomédecine, doit également être actualisée.

Il ne s’agit pas de refuser le progrès technologique, mais j’ai la conviction que son utilité passe par sa maîtrise et son partage, et que l’innovation n’est souhaitable que si elle sert la société.

Pourquoi le politique ne se saisit-il pas davantage de ces questions importantes ?

L’IA induit des changements tellement rapides que les applications – dans le commandement militaire, l’évaluation des risques… – sont déjà sur le marché alors que nos connaissances sur ses conséquences et ses limites sont incomplètes ! Cela rend difficile la réflexion.

Le législateur, qui ne maîtrise pas ces sujets complexes, se retrouve démuni face aux grands groupes rompus à la commercialisation rapide des innovations.

Il faut que les politiques aient le courage d’affronter les GAFAMI. Or aujourd’hui, autant à l’échelle nationale qu’européenne, ils abandonnent ces questions et ne donnent pas de ligne claire.

Une solution serait de renforcer le poids des organismes chargés d’évaluer l’impact de la technologie sur la société et de décortiquer ces sujets pour le politique (OPECST pour la France, EPTA pour l’UE).

Pour accompagner ces avancées rapides et souvent radicales, nous aurions également besoin d’un nouveau type de législation, qui puisse être réexaminée périodiquement, des sortes de « règles biodégradables ».

Propos recueillis par Félicité de Maupeou

*Le Groupe d’experts intergouvernemental sur l’évolution du climat est un organisme qui évalue les travaux de recherche du monde entier sur le sujet.

INFO +

Auteur d’un rapport sur l’IA et les droits de l’homme (avril 2017) pour le conseil de l’Europe, Jean-Yves Le Déaut appelle à la vigilance quant à ses impacts sur la dignité humaine et à une prise de conscience urgente des responsables politiques.