Hôpitaux : l’IA doit être un outil diagnostic et thérapeutique, non un substitut à l’intelligence et au jugement humains

Un article dans le dernier numéro de Courrier international nous apprend que le recours à l’intelligence artificielle (IA) est de plus en plus fréquent dans les hôpitaux américains, notamment ceux qui connaissent une pénurie de main-d’œuvre. Ce qui, pour le Wall Street Journal, constitue un immense progrès pour une gestion plus efficiente des patients en milieu hospitalier, mais aussi un risque : celui de voir le personnel médical de plus en plus abdiquer l’intelligence et le jugement humains au profit de l’IA, et d’être ainsi relégué au simple rang d’exécutants des procédures mises place par la machine selon les données qui lui sont fournies.

Grâce à l’IA, un patient présentant certains symptômes déclenche une alerte qui conduit à l’établissement d’un diagnostic ainsi qu’à la mise en place de procédures automatiques. En somme, une sorte de « pilotage automatique » capable de guider les soignants dans leur travail au quotidien. Saut que ce système de pilotage automatique n’est pas toujours sans présenter certaines insuffisances. Exemple donné par le WSJ : une infirmière reçoit l’information selon laquelle une patiente présente les symptômes d’une septicémie ; or elle sait que cette patiente est en réalité atteinte d’une leucémie. Un diagnostic erroné (provenant d’une alerte provoquée par le niveau des globules blancs de la patiente), qui donnera lieu à des procédures inadaptées comme une prise de sang.

Mais il y a plus : car à cette « défaillance » de l’IA s’est superposée une autre défaillance, humaine cette fois-ci : au lieu de ne pas tenir compte du diagnostic posé par l’IA ni des procédures subséquemment recommandées, l’infirmière a préféré suivre celles-ci à la lettre, de peur de se voir attribuer une sanction par sa hiérarchie. Or des employés qualifiés et compétents ne devraient jamais s’inféoder de la sorte à l’IA, et il devrait au contraire incomber à toute hiérarchie (à plus forte raison lorsqu’il y va de la vie d’êtres humains comme en milieu hospitalier) de rappeler que les solutions d’IA ont pour seule vocation d’apporter une aide au discernement humain, non de s’y substituer. Le cas rapporté ici par le WSJ n’est pas isolé : ce dernier fait référence à une enquête menée auprès de 1 042 infirmières indiquant que 24% d’entre elles ont agi conformément à ce que disait l’algorithme clinique, alors que ces choix « n’étaient pas dans le meilleur intérêt des patients en fonction de leur examen clinique ».