Intelligence artificielle en santé : un outil innovant qu’il faut réguler positivement

Tatiana LECOT-CONNAN, Paris

Conférence plénière 5
Intelligence artificelle en santé : révolution des cas d’usage et enjeux éthiques
David GRUSON, Paris

On continue avec l’intelligence artificielle (IA) pour ce troisième jour de congrès mais cette fois-ci en plénière avec David Gruson, fondateur d’Ethik-IA, une initiative académique et citoyenne qui vise au déploiement d’outils de régulation positive du déploiement de l’IA et de la robotisation en santé.

L’IA générative est un domaine de l’IA où les modèles génèrent de nouveaux contenus. Ces modèles peuvent générer du texte (ex : ChatGPT), des images (ex : MidJourney), des vidéos ou des sons à partir des données sur lesquels ces modèles ont été entraînés. De nombreux modèles d’IA générative ont été développés dans le domaine de la santé ces dernières années. L’IA est ainsi un adjuvant à la pratique professionnelle et non un remplacement des professionnels de santé.

On retrouve l’IA actuellement dans plusieurs spécialités notamment pour la reconnaissance d’images :

• Ophtalmologie : analyse des clichés de fond d’œil pour le dépistage, par exemple, de la rétinopathie diabétique
• Radiologie : analyse de clichés de mammographie dans le cadre du dépistage du cancer du sein ou analyse de radiographies réalisées la nuit aux urgences

Il est important de noter que cette reconnaissance d’image se fait sous supervision humaine. On retrouve également l’IA en diabétologie dans les boucles fermées (ex : Diabeloop). Il s’agit de la première IA admise en remboursement.

L’IA allant très vite, il a été nécessaire de légiférer pour l’encadrer. La commission européenne a ainsi été la première au monde à légiférer sur l’IA. David Gruson nous a présentée quelques points importants du règlement de l’Union Européenne sur l’IA dans le domaine de la santé :

• L’information des utilisateurs de la solution IA (et non leur consentement)
• La supervision humaine de l’IA dans sa phase de conception et, dans une logique d’amélioration continue de la qualité, dans son utilisation en vie réelle
• L’encadrement des fournisseurs d’IA à haut risque. L’IA en santé est considérée comme à haut risque. Les fournisseurs d’IA doivent donc se plier à certaines règles en matière de contrôle humain avec nécessité d’une évaluation de la conformité avant mise sur le marché.

Le déploiement de l’IA en santé soulève cependant 3 risques : risque d’inégalités territoriales, risque d’inégalités de revenus, risque de perte de souveraineté. Ethik-IA est donc en train de travailler pour limiter ces risques. Si le sujet vous intéresse, vous trouverez toutes les informations sur le site web : https://www.ethik-ia.fr/.