Institut QUIDDITE

Menu

David Gruson et l’éthique de l’IA en santé

Tu es membre de la Chaire santé de Sciences Po et professeur associé en droit de la génétique à la Faculté de médecine Paris Descartes. Tu es le fondateur du think tank Ethik & IA, également expert Santé à l’Institut Montaigne, auteur du polar bioéthique concernant l’IA, S.A.R.R.A., une intelligence artificielle, et de La machine, le médecin et moi

Ai-je bien résumé ? Peux-tu nous en dire davantage sur ton parcours ?

Photo de David Gruson

David Gruson : Merci de cette présentation ! Mais il faut surtout faire très attention à ne pas faire de la cohérence rétrospective sur un parcours professionnel, ce serait mensonger ! 

On va dire que j’ai eu la chance d’avoir des expériences diversifiées dont un grand nombre ont concerné le numérique et la santé. 

Un autre trait est aussi l’alternance entre des fonctions nationales et des missions sur le terrain comme lorsque que j’ai dirigé le CHU de La Réunion entre 2012 et 2016.

Tu m’as raconté l’événement déclencheur de ton engagement fort dans la régulation de l’IA*. Il me semble important de raconter aux lecteurs du blog ce point de départ.

David Gruson : Précisément, dans ces fonctions à La Réunion, nous avons été confrontés, avec les équipes du CHU*, à la gestion d’une situation très complexe de suspicion de cas d’Ebola. Je dois saluer le sang-froid dont ont fait preuve les professionnels du CHU. 

Mais, à l’inverse, nous avons été confrontés aux pulsations parfois contraignantes de l’environnement médiatique et politique. Je me suis demandé, a posteriori, si la mobilisation d’une IA aurait amélioré cette gestion de crise. 

Cette réflexion menée sur ce sujet depuis une vingtaine d’années s’appuie également sur mon DEA* consacré aux enjeux sociaux des TIC*. Elle a été le point de départ de S.A.R.R.A.

Évidemment, je ne pouvais pas anticiper, en écrivant le premier tome, que nous nous retrouverions, en 2020, déjà dans le monde de S.A.R.R.A. avec la crise COVID19. 

C’est aussi un enseignement sur l’innovation de l’IA en santé : certains domaines avancent lentement et d’autres passent de la fiction au réel très rapidement. 

Des innovations de rupture imprévisibles quelques mois plus tôt peuvent apparaître pour répondre à un besoin circonstancié.

Source : https://www.reseau-chu.org/article/sarra-une-intelligence-artificielle-en-questions/

Tu dis que l’intelligence artificielle est une technologie de rupture du champ sanitaire et médico-social, et qu’il faut apprendre à la connaître. 

As-tu vu des initiatives efficaces mises en place, soit auprès des professionnels de santé, soit auprès des patients, pour rassurer sur l’emploi de l’IA ?

David Gruson : Le déploiement de l’intelligence artificielle est source d’améliorations potentielles littéralement extraordinaires pour notre santé. 

Ce saut qualitatif possible pour notre système de soins s’accompagne d’un effet de levier potentiel majeur pour la croissance de la France. 

Il induit également des transformations possiblement radicales des métiers du champ sanitaire et médico-social. 

Nous vivons actuellement une véritable révolution des cas d’usage de recours à l’intelligence artificielle. 

La technique la plus mature est, de loin, la reconnaissance d’image par apprentissage machine. Elle s’applique largement en radiologie, dermatologie, ophtalmologie ou encore en oncologie. 

Dans toutes ces disciplines, les performances de diagnostic des algorithmes dépassent désormais fréquemment celles de l’Humain.


Quel type de “régulation positive” verrais-tu dans le champ de la e-santé de “consommation” reposant sur l’IA, telles que les applications de self-tracking ?

David Gruson : La régulation est l’un des enjeux clés, dans un environnement juridique déjà très protecteur en France avec le RGPD*. 

Toute une série de normes nationales existent déjà et ne doivent pas être sur-réglementées. 

Il faut être lucide : si nous ajoutons trop de crans complémentaires de réglementation, nous bloquerons le développement de l’IA en France et en Europe. Nous risquons d’aboutir à l’effet paradoxal d’inciter les professionnels et les patients français à se tourner vers des solutions. Celles conçues, notamment, dans des cadres juridiques et éthiques moins protecteurs que le nôtre.

D’après l’article ci-nommé de TICsant.com, tu as imaginé 5 clés de régulation de l’IA : l’information et le consentement du patient, la garantie humaine de l’IA, la graduation de la régulation en fonction du niveau de sensibilité des données de santé, l’accompagnement de l’adaptation des métiers et l’intervention d’une supervision externe indépendante. Sont-elles déployées aujourd’hui dans le système de santé ?

David Gruson : Oui ! Mais, attention, ces 5 clés sont le fruit d’un travail collectif. 

Celui engagé dans le cadre d’Ethik-IA, mouvement initié, voici trois ans maintenant, pour porter cette idée de régulation positive de l’IA en santé et la faire vivre par des outils concrets.

La reconnaissance du principe de Garantie Humaine (Art. 11 projet de loi bioéthique) et sa concrétisation étaient le sens même du projet porté depuis le départ par Ethik-IA. 

Ce texte doit désormais entrer en vigueur au début de l’année 2021. 

Il comprend deux normes nouvelles. D’une part, l’information du patient sur le recours à l’IA dans sa prise en charge; et d’autre part, le principe de Garantie Humaine de l’IA lui-même. 

La supervision peut s’exercer avec le déploiement de « collèges de garantie humaine » associant médecins, professionnels paramédicaux et représentants des usagers. 

Leur vocation serait d’assurer une révision de dossiers médicaux pour porter un regard humain sur les options thérapeutiques conseillées ou prises par l’algorithme. 

Nous avons tenu, début décembre, avec Ethik-IA, la première session pilote de collège de garantie humaine sous l’égide de l’UFSBD* dans le cas d’une solution d’IA appliquée dans le domaine des soins bucco-dentaires, avec la start-up française Dental Monitoring.

La mutation numérique concerne aussi les acteurs privés, notamment avec les objets connectés et les dispositifs médicaux. 

L’utilisation de la donnée de santé reste centrale pour développer leurs systèmes. 

Penses-tu qu’une régulation devrait s’appliquer à la gestion autonome des données de santé par le consommateur du self-tracking?

David Gruson : Je ne crois pas à la réglementation miracle qui viendrait prévenir tous les risques. Ce serait une illusion dangereuse. 

Le but du principe de Garantie Humaine du numérique et de l’IA est précisément de partir d’une régulation plutôt souple mais mise en œuvre dans une logique d’amélioration continue de la qualité des traitements algorithmiques. 

Pour y parvenir, la meilleure méthode est celle d’une supervision par les professionnels de santé et les représentants des patients. 

C’est un moyen de garder le recul nécessaire face à la technologie mais aussi de nous ouvrir de nouveaux espaces de démocratie sanitaire.

Tu as exprimé le souhait de voir se développer rapidement des formations pour accompagner la transformation des métiers de la santé. 

Que penses-tu de la filière de santé numérique annoncée par Emmanuel Macron avec PariS santé Campus d’ici 2028 (Source Sciences & Avenir) Quels types de filières imagines-tu sur le campus de Val-de-Grâce ?

David Gruson : Il y a une mobilisation réelle des pouvoirs publics sur ces sujets, en particulier dans le cadre de la feuille de route de transformation numérique en santé tracée par Dominique Pon et Laura Létourneau

Nous avons pu obtenir, il y a 18 mois, l’inscription de l’IA comme orientation prioritaire de développement professionnel continu. En 2020, nous avons tenu les premières sessions dédiées. 

Mais effectivement, c’est très bien si on peut aller plus loin et prévoir une sensibilisation au numérique et à l’IA dans toutes les formations initiales en santé. 

Cette idée de Campus Santé numérique est donc intéressante de ce point de vue, si cela permet de créer un pôle d’excellence source de synergies et de diffusion d’une véritable culture de formation à l’IA et au numérique en santé en France.

Les données de santé constitueront la “tuyauterie” (sourceLesÉchos) entre les acteurs privés et publics du campus, mettant ainsi clairement la datas au centre du projet. Comment vois-tu le bras de fer entre la France et les GAFAM* sur cet enjeu ?

David Gruson : Je ne vois pas la question – stratégique – de la souveraineté numérique comme une logique d’affrontement de l’Europe avec les géants du numérique. 

Il est impératif de porter une vision très claire et ambitieuse pour soutenir l’innovation technologique en France et en Europe. 

Nous devons consolider l’effort en direction des start-ups mais aussi engager de nouvelles démarches de soutien des entreprises intermédiaires qui ont déjà su convertir les innovations dans le réel. 

C’est ce que nous faisons par exemple avec Jouve, déjà largement reconnue dans le domaine de l’IA appliquée aux brevets. 

Nous avons mis au point en 2019 une solution d’IA d’aide à l’automatisation de l’admission en établissements de santé. Cette solution est devenue une référence en France en l’espace de quelques mois. 

Ce soutien à l’innovation ne peut pas se faire de manière isolée, dans une espèce de tour d’ivoire franco-française. 

Nous devons, en effet, amener les géants du numérique à venir contribuer à cet effort d’innovation en Europe mais en les conduisant à jouer selon nos règles juridiques et éthiques. 

Nous sommes parvenus à le faire avec le RGPD. Le cadre de régulation positive de la Garantie Humaine de l’IA est une deuxième étape clé de ce point de vue. 

Le mouvement est engagé. 

Je crois sincèrement que nous pouvons faire de l’Europe, le continent de l’IA innovante et responsable en santé.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.