La Délégation au numérique en santé (DNS) a publié, le 29 juillet 2025, un guide d’implémentation de l’éthique d’un système d’intelligence artificielle (SIA) en santé.

Ce guide a été élaboré par le groupe de travail GT3, qui fait partie d’un des 15 groupes de la cellule éthique de la DNS. Ce guide fait suite au guide de « Recommandations de bonnes pratiques pour intégrer l’éthique dès le développement des solutions d’Intelligence Artificielle en Santé : mise en œuvre de l’éthique by design » (également dénommé « guide de mise en œuvre de l’éthique by design »), publié par ce groupe en avril 2022.

Il s’inscrit dans la continuité de nombreux textes et initiatives nationaux et internationaux qui ont comme dénominateur commun la poursuite de la mission de rendre l’IA plus éthique.

Au niveau national, il peut être relevé :

• de multiples labels pour promouvoir et garantir l’éthique (le label d’Ethik IA, le label ADEL-AI act) ;
• des guides recommandant des bonnes pratiques (outre les guides susvisés, le guide Ethical AI) ;
• l’avis commun « Diagnostic médical et intelligence artificielle : Enjeux éthiques » du Comité consultatif national d’éthique (CCNE) et du Comité National Pilote d’Ethique du Numérique (CNPEN).

Au niveau international, le guide vient renforcer :

• les principes de l’OCDE sur l’IA ;
• le Medical Device Regulation (MDR), règlement de l’UE du 5 avril 2017 ;
• les recommandations sur l’éthique de l’IA de l’UNESCO ;
• les lignes directrices sur l’éthique et la gouvernance de l’IA pour les grands modèles de langues (Large Language Models ou LLMs) de l’OMS.
• le Règlement européen sur l’IA du 13 juin 2024 (RIA).

L’objectif de ce nouveau guide de la DNS est d’accompagner les fournisseurs de SIA « dans le respect des valeurs fondamentales de l’éthique du soin, tout en favorisant une innovation responsable ».

Cet accompagnement vise notamment à répondre aux préoccupations éthiques majeures et aux risques liés, en apportant des garanties suffisantes.

Les préoccupations évoquées sont notamment les risques de biais discriminatoires, l’atteinte à la vie privée, l’opacité algorithmique, la dépendance des utilisateurs à la technologie, ou encore l’impact environnemental.

Quant aux garanties, le guide est censé permettre d’assurer les fondements de l’éthique du soin (par le respect des principes qui la composent), la protection des données, l’identification et la correction des biais, la fiabilité et ainsi la confiance des utilisateurs et l’utilisabilité des SIA en santé.

A cette fin, 43 critères ont été définis et répartis selon les 5 étapes d’un projet IA : Cadrage, Collecte et préparation des données, Construction des algorithmes, Déploiement et usage, Suivi et amélioration continue. Ces critères sont aussi associés à 5 principes du Cadre de l’éthique du numérique en santé (CENS), à savoir : « Bienfaisance ; Non-malfaisance ; Eco-responsabilité ; Autonomie ; Justice et équité ».

Les critères sont non contraignants, néanmoins ils permettent l’intégration de l’éthique par le biais de réflexions et de recommandations à suivre.

Le guide comprend aussi une annexe comportant des éléments d’autoévaluations pour chacun des critères dans l’optique de les rendre plus concrets et de renforcer l’effectivité de la mise en œuvre.

Le guide est particulièrement intéressant en ce qu’il apporte une comparaison entre les critères proposés et ceux des labels et permet ainsi d’aller plus loin. Il l’est aussi du fait des références aux normes ou règlements existants et à leurs principes équivalents notamment dans le RGPD ou le RIA.

Si certains seront tentés de remettre en cause l’intérêt d’un tel guide au vu des textes existants, la DNS souhaitait les adapter aux spécificités du domaine de la santé, dans l’objectif, qu’à terme, ce guide fasse l’objet d’une insertion dans les référentiels sectoriels du numérique en santé.