couverture du livre

La Machine, le Médecin et Moi



Cet ouvrage propose un état des lieux détaillé de l'utilisation de l'IA au coeur de notre système de santé, actuelle et à venir.

Il en montre les risques et développe les solutions qui pourraient venir réguler ce triangle inédit : la machine, le médecin et le patient.


Thématique : Intelligence artificielle


Un état des lieux 


L’intelligence artificielle se déploie à très grande vitesse dans notre système de santé. Chaque semaine émergent de nouvelles solutions de médecine algorithmique mobilisant les ressources nouvelles du numérique et du pilotage par les données de santé pour mieux nous soigner et renforcer la prévention qui fait si cruellement défaut à notre système de santé. 

Le livre fait le point de ces avancées en analysant les grands domaines de prise en charge : cancer, maladies chroniques et métaboliques (diabète, insuffisance rénale chronique…), vieillissement, handicap… 

Les perspectives de progrès médicaux ouvertes par l’IA sont absolument vertigineuses avec des avancées déjà opérationnelles dans le champ de l’apprentissage machine par reconnaissance d’image. Pour ne prendre qu’un exemple, l’intelligence artificielle peut aujourd’hui mieux identifier une tumeur sur une mammographie qu’un observateur humain spécialisé. 


Comme acteur du système de santé, j’ai mesuré, dans l’exercice de responsabilités nationales et opérationnelles, à quel point nous supportons chaque jour des non-qualités et des sous-efficiences dans la prise en charge des patients qui pourraient être évitées par un recours élargi au pilotage par les données de santé. L’intelligence artificielle nous permettra d’aller chercher ce potentiel majeur d’innovations au service de la santé de tous. 


Les risques


Le progrès est donc là mais avec lui, comme aurait dit Raymond ARON, ses risques de « désillusions ». Les enjeux éthiques associés à l’IA en santé sont, en effet, majeurs. Le médecin risque de déléguer sa décision à la machine. Et le patient, habitué à l’efficacité des services numériques dans la vie de tous les jours, pourra de facto déléguer sa faculté à consentir aux soins. 


Mais le risque principal est sans doute ailleurs. Il réside dans la propension hyperbolique de l’IA à mettre en confrontation l’individu et le collectif : la logique du pilotage algorithmique pourra produire une amélioration de la santé du plus grand nombre mais au prix de la minoration de la prise en compte de certaines situations individuelles. 

L’IA proposera-t-elle de prodiguer cette innovation thérapeutique coûteuse à ce patient en fin de vie ? Comment l’intelligence artificielle se comportera-t-elle en situation de gestion de crise sanitaire s’il faut protéger le plus nombre en faisant le choix d’en sacrifier quelques-uns ? 

C’est le thème que j’avais abordé dans le livre S.A.R.R.A. une intelligence artificielle 1 qui aborde la manière avec laquelle une IA pourrait se comporter face à la gestion, en 2025, d’une épidémie d’Ebola en plein cœur de Paris. Il s’agissait d’une fiction d’anticipation. 


Mais le risque de dérive collectiviste d’une société dans laquelle l’individualisme prospère pourtant au quotidien n’est pas nouveau. Tocqueville en avait décrit les tenants et aboutissants dès La Démocratie en Amérique. L’IA en porte la logique à un point d’extrapolation extrême. Avec un élément puissant que Tocqueville avait déjà pressenti : la satisfaction émolliente associée à l’efficacité du service rendu. Si la Machine améliore la qualité et l’efficacité du système de santé, le risque est grand que nous ne nous apercevions simplement pas de corollaires éthiques péjoratifs qui pourraient associés à cette marche vers l’automatisation. 


Quelles réponses ?


Ces questionnements essentiels n’appellent pas de réponses binaires comme nous le constatons encore trop souvent dans le débat public sur l’IA. C’est, au contraire, un patient travail de régulation positive qu’il convient d’engager en élaborant des outils permettant de s’ouvrir à l’innovation numérique tout en cherchant à en minimiser les risques. 

C’est ce que propose depuis fin 2017 l’initiative académique et citoyenne Ethik-IA. Dans ce cadre, un projet de référentiel de bon usage de l’IA appliqué aux données génomiques a été développé avec l’Institut hospitalo-universitaire Imagine de Paris. 


Un principe-clé a été proposé pour être porté dans la prochaine loi de bioéthique : celui d’une garantie humaine de l’IA qui permettra de développer des outils pratiques de supervision de l’action de la machine et de son processus d’apprentissage. Des propositions – en partie déjà suivies d’effets – ont également été portées pour adapter la formation initiale et continue des professionnels de santé. 

Le Comité consultatif national d’éthique vient de reprendre l’essentiel de ces propositions sur la régulation positive de l’IA dans l’avis émis dans le cadre de la préparation de la prochaine révision de la loi bioéthique. La Chaire de Philosophie à l’hôpital portée par Cynthia FLEURY a placé l’IA en santé en tête de ses priorités pour faire vivre le débat public sur l’avenir de notre système de santé.


L’espoir n’est donc pas éteint pour réguler l’intelligence artificielle en santé. Le pire n’est pas encore sûr. Mais le Temps est compté.


Auteur de l'article :

David GRUSON, Membre du Comité de direction de la Chaire Santé de Sciences Po Paris, Fondateur de l’initiative Ethik-IA


1 Editions Beta Publisher, juin 2018.