Recommandations de la DNS pour une éthique by design des solutions d’IA en santé

Le 31 Mai dernier, la Délégation ministérielle au Numérique en Santé (DNS) a publié des recommandations de bonnes pratiques pour intégrer l’éthique dès le développement des solutions d’Intelligence Artificielle en Santé. Ce guide méthodologique représente la concrétisation d’une démarche de deux ans, pilotée par Brigitte Seroussi et David Gruson, grâce à l’animation d’un groupe d’experts auquel le Health Data Hub a participé.

Une des actions au cœur de la feuille de route du numérique en santé est de faire de l’éthique un élément central du virage numérique en santé. C’est à ce titre que la Délégation ministérielle au numérique en santé (DNS) a mis en place une cellule Ethique du numérique en santé pour inscrire un ensemble d’actions dans un cadre de valeurs humanistes. 

Solutions d’IA en santé : de l’importance de l’éthique by design

Brigitte Séroussi, responsable de la cellule Ethique du numérique en santé, a piloté aux côtés de David Gruson, directeur du Programme Santé LUMINESS et Fondateur d’ETHIK-IA le groupe de travail n°3 (GT3) sur la rédaction d’un guide de bonnes pratiques - « Ethique by design » des solutions d’IA. Les porteurs de l’initiative ont proposé une approche de co-construction au sein d’un groupe de travail qui réunissait différentes parties prenantes : experts pluriprofessionnels, chercheurs en IA, représentants des patients, professionnels de santé, juristes, sociologues, éthiciens, et éditeurs… Le Health Data Hub a eu le plaisir d’y participer et d’être également auditionné, via notamment sa direction citoyenne.

L’objectif de ce groupe était de produire et diffuser un guide méthodologique référençant les questionnements et les recommandations pour chacune des étapes d’élaboration d’une solution d’IA en santé. Comme le précise Jean-Gabriel Ganascia, Professeur d’informatique et philosophe à la Faculté des Sciences de Sorbonne Université, dans la préface de ce livrable, “ce rapport recense l’ensemble des exigences éthiques requises par les solutions d’IA en santé au double sens du « by design », à savoir tant au cours de la conception, pour intégrer autant que faire se peut, des valeurs éthiques dans l’architecture matérielle et logicielle des systèmes, qu’à l’issue de la réalisation, pour valider les solutions proposées et éviter les aléas consécutifs au caractère principalement inductif de l’IA aujourd’hui”.

Des recommandations éthiques pratiques et pragmatiques

A travers chaque étape, dont celles de la collecte des données, du pré-traitement, de la construction de l'algorithme et de l’évaluation en amont de la production, on y retrouve les principes défendus par le groupe de travail suivi des recommandations associées. Ainsi on peut lire, pour l’étape de la collecte de données, qu’il est essentiel, notamment pour un éditeur, de se poser des questions en amont, comme : “Les données servant à l’entraînement de l’algorithme ont-elles été obtenues auprès de tiers garantissant le consentement éclairé des patients qui les ont produites pour une réutilisation au-delà de la finalité première du recueil ? Les données servant à l’entraînement de l’algorithme ont-elles été obtenues via des modalités garantissant la sécurisation du transfert et l’intégrité des données transférées ? Les données ont-elles été pseudonymisées selon des modalités garantissant leur confidentialité ? ”

Le guide de bonnes pratiques rendu public aujourd’hui, offre ainsi à son lecteur une démarche méthodologique clé en main pour intégrer doublement l’éthique « by design », tant au cours de la conception qu’à l’issue de la réalisation, pour valider les solutions proposées et éviter les biais redoutés de l’IA.