Bientôt une IA imitant l’empathie

« Face à une personne en fin de vie ou un enfant autiste, nous sommes quelquefois sollicités au-delà de nos limites et de nos capacités. Nous n’avons souvent pas la patience de nous mettre à leur diapason et à leur rythme, explique Laurence Devillers, professeure d’informatique à l’université Paris-Sorbonne et chercheuse au CNRS. La machine le peut. Et l’IA parviendra bientôt à imiter l’empathie », se félicite-t-elle.

Par exemple, elle sera capable de dialoguer avec des personnes dépressives, en les valorisant « sans les juger, comme l’homme peut le faire ». Des IA formées à l’écoute des femmes violées ou des soldats de retour de mission sont également en test.

Si une machine peut prêter attention aux émotions des humains, l’« hérésie » pour Yves Demazeau, directeur de recherche au CNRS et président de l’Association française pour l’IA (AFIA), serait que l’on prête des émotions aux machines. Il appelle à légiférer afin d’interdire ce qu’il considère comme une dérive possible.

Jouer sur les émotions pourrait se rapprocher d’une forme de manipulation.

Interrogés dans un rapport parlementaire (mars 2017) sur l’IA, Rodolphe Gélin, directeur scientifique SoftBank Robotics et Olivier Guilhem, son directeur juridique s’alarment : « Cette façon de jouer sur les émotions pourrait se rapprocher d’une forme de manipulation. Un programmeur doté de quelques connaissances en psychologie – et ils seront de plus en plus nombreux à y être formés – pourra jouer sur l’état émotionnel d’une personne. »

Initialement vouée à prodiguer des conseils bienveillants, comme prendre ses médicaments ou éviter de boire un verre d’alcool de plus, l’IA pourrait finir par prendre l’ascendant sur son utilisateur. Voire créer un attachement excessif.

Si les « robots sociaux » n’en sont qu’à leurs débuts, la députée européenne et rapporteur d’un rapport sur le sujet Mady Delvaux prend déjà la menace au sérieux et rappelle : « Nous ne voulons pas de robots qui ressembleraient de plus en plus aux humains, comme c’est le cas au Japon, par exemple. »

Félicité de Maupeou