Ethique et garantie humaine

En théorie, data et intelligence artificielle permettent d’ouvrir de nombreuses voies de recherche, déclare Irène Buvat. Mais nous devons être très vigilants quant à la rigueur de notre travail si nous ne voulons pas faire naître de faux espoirs ! Par ailleurs, l’objectif n’est surtout pas de remplacer les médecins mais de les aider, de faire en quelque sorte de la ”médecine augmentée“. 

Selon le rapport du Comité consultatif national d’éthique (CCNE), « le risque principal serait de ne pas avoir suffisamment recours à l’IA, explique David Gruson, codirecteur du groupe de travail du CCNE. Nous avons beaucoup de données de santé en France, il ne faudrait pas les sous-exploiter. » Un autre risque important serait de surréglementer ce secteur.

Le RGPD est déjà suffisamment protecteur. » Le rapport souligne aussi deux autres risques inhérents à l’IA. Celui de la tension entre individus et collectif : la logique de santé publique, notamment d’un point de vue économique, n’est pas toujours compatible avec celle qui prime à l’échelle de la santé d’une personne. Nous devons anticiper ce risque avec des législations particulières qui obligeraient par exemple les médecins à informer leurs patients qu’ils ont 14 utilisé un algorithme pour établir un diagnostic ou faire un choix thérapeutique. 

Enfin il convient d’établir un principe de garantie humaine de l’IA : que le sens critique de l’être humain prédomine toujours par rapport à la machine ! Un enjeu que le mathématicien et député Cédric Villani a bien pris en compte lorsque, rendant son rapport sur le développement de l’IA en France en mars 2018, il a déclaré :

L’enjeu n’est pas la compétition entre deux intelligences mais au contraire leur association ; comment l’intelligence humaine pourra utiliser l’intelligence de synthèse pour se faciliter la tâche.