Début 2020, on dénombrait en France plus de 100 startups et 18 groupes développant des systèmes d’intelligence artificielle dans le domaine médical. Le taux de croissance annuel est estimé entre + 30% et + 50% d’ici 2025. C’est également à cette date que l’AI Act, le règlement européen régulant la sécurité des données utilisées par les systèmes d’IA, entrera en vigueur, avec la même force opposable que le RGPD, le règlement européen général sur la protection des données. Les acteurs de la santé français et européens doivent donc se préparer dès maintenant.
Les nouvelles législations tant à l’échelle française qu’européenne s’appuient sur le principe de Garantie Humaine. Il s’agit de s’assurer que derrière les algorithmes et la machine, des êtres humains, en l’occurence des collèges constitués de professionnels de la médecine et de représentants des patients, vérifient à chaque étape de développement le respect de l’intégrité des usagers dont les données ont été collectées, pour éviter toute dérive des systèmes d’IA auto-apprenants.
Dans le domaine médical, ce règlement concerne les autorités publiques, les agences, les entreprises conceptrices de solutions d’IA ou de dispositifs médicaux embarquant de l’IA.
Ce principe a pour la première fois été évoqué en 2021 lors de la révision de la loi de bioéthique française, dans son article 17. “Celui-ci impose un devoir d’information du patient sur le recours à l’IA dans sa prise en charge, ainsi qu’une supervision humaine – en articulation avec des professionnels de santé et des représentants des patients – dans la phase de conception et dans l’application en vie réelle de la solution”, précise David Gruson, Fondateur d’Ethik-IA. De potentielles actions correctives peuvent ainsi être adoptées. L’OMS et la FDA recommandent également cette supervision humaine.
Les acteurs extra-européens travaillant sur le sol européen devront également respecter la nouvelle législation.

“Respecter le principe de Garantie Humaine en IA est dès aujourd’hui essentiel pour les acteurs français de la santé, non seulement parce-qu’ils doivent anticiper le cadre de réglementation européen qui s’imposera à eux d’ici deux ans mais aussi pour améliorer leurs solutions en IA, grâce aux retours des professionnels de santé et des représentants des patients. Cette logique de co-construction améliore la conception du produit et son usage dans la vie réelle”, David Gruson, Fondateur d’Ethik-IA.

Ethik-IA est une initiative académique et citoyenne qui a débuté en 2017. Grâce à plus de 800 contributions de professionnels, elle a nourri le débat public avant de se constituer en entreprise en 2019 pour pouvoir mettre en œuvre cette démarche sur le plan opérationnel. Depuis lors, 11 écosystèmes de Garantie humaine ont été élaboré, dans des secteurs aussi distincts que la santé bucco-dentaire, la radiologie, l’ophtalmologie, la génomique ou la pharmaco-vigilance.
Ce nouveau label conçu en collaboration avec le Digital Medical Hub (DMH), spin-off de l’AP-HP, cible aujourd’hui le secteur hospitalier. Il a été lancé le 1er février 2023 dans les locaux de PariSanté Campus.
Ce label va s’appliquer à l’ensemble des innovations en santé pilotées par le DMH au sein de l’AP-HP, ce qui représente “une force de diffusion tout à fait majeure”, selon David Gruson. Il va en effet servir de référence et de base à tous les professionnels du secteur hospitalier, public ou privé, pour designer le modèle le plus adapté à leurs solutions. “Ethik-IA ne plaque pas à l’identique le dispositif mais conserve la méthode et le processus”, commente David Gruson.
Cette mise en conformité ne sera a priori pas très contraignante pour la grande majorité des acteurs français. “Nous essayons de capitaliser sur les acquis déjà mis en place, confie David Gruson. Des mécanisme de supervision existent la plupart du temps, il faut simplement les renforcer, les protocoliser et les traçabiliser pour que le régulateur puisse faire un audit.”
Dès février, un chantier a également débuté avec l’AFNOR (Association française de normalisation) qui évaluera le respect des critères du futur règlement européen, avant que la CNIL (Commission nationale de l’informatique et des libertés) se charge du contrôle final, une fois le texte entré en vigueur.