TracIA

Dans le domaine de la santé, la cybersécurité est au cœur des défis de l’intelligence artificielle (IA) avec l’accès à des données massives multi-échelles distribuées. Les systèmes d’IA en santé sont ainsi identifiés par l’UE comme étant à haut risque. La cybersécurité est par conséquent imposée par de nombreuses règles éthiques et législatives : d’un côté, la sécurité des données doit être assurée, quelle que soit leur nature et les transformations qu’elles ont subies, d’un autre côté, les méthodes créées et appliquées à ces données doivent elles-mêmes être sûres.

Dans ce contexte, différents enjeux importants en termes de traçabilité sont à considérer pour permettre un développement fiable et sûr de l’IA en santé, avec l’externalisation des données et des traitements. D’une part, il est nécessaire d’être sûr de l’origine des données, de leur histoire, de la manière dont elles ont été créées, traitées, etc. Les mêmes questions se posent pour les modèles d’IA construits sur ces données, ces derniers étant ensuite utilisés en pratique clinique. D’autre part, il faut donner aux patients et aux professionnels de santé les moyens de gérer leur consentement. La lutte contre la fuite de données est elle aussi essentielle. Telle que définie, la traçabilité englobe des enjeux à la frontière entre la cybersécurité, la gestion et le traitement des données en conformité avec le consentement du patient et des professionnels de santé ; enjeux qui doivent être traités conjointement en tenant compte des standards et des pratiques existants .

Ce sont ces enjeux de traçabilité que TracIA se propose de traiter à l’échelle d’un système d’information apprenant (SIA). Un SIA repose sur la réutilisation massive de données pour extraire des connaissances qui sont intégrées dans des systèmes d’aide à la décision ensuite mis à disposition des médecins. Ces systèmes produisent des données que le SIA peut réutiliser pour créer de nouvelles connaissances et, ainsi de suite. Cela permet par exemple de concevoir un jumeau numérique du patient ; un objectif clé du programme de recherche Santé Numérique. Ici, TracIA vise à développer une méthodologie et des solutions technologiques de traçabilité innovantes et efficaces ; les briques manquantes au développement d’une IA de confiance en santé pour atteindre simultanément plusieurs objectifs :

• Gouvernance des données et gestion du consentement du patient dans le temps – Afin de respecter les réglementations en vigueurs (e.g. RGPD, e-IDAS), un objectif de TracIA est d’établir les bases d’une gouvernance des données à l’échelle du SIA permettant aux patients et aux professionnels de santé de gérer leur propre politique de consentement. TracIA s’intéressera aussi aux aspects légaux de la traçabilité.
• Gestion et certification de la provenance des données – La modélisation de la provenance est importante pour utiliser et réutiliser en confiance les données et les modèles d’IA. C’est aussi une question essentielle du point de vue de la certification des systèmes d’aide à la décision en santé fondés sur l’IA et sur le plan scientifique, avec pour enjeu la reproductibilité. TracIA s’intéressera à des solutions innovantes pour tracer/récupérer les données des patients, tout en respectant le droit à la vie privée.
• Lutte contre les fuites de données – Elle est cruciale en santé du fait de la sensibilité des données et soulève des questions essentielles en matière de prévention, d’identification et de remédiation. À l’heure actuelle, dans le contexte des SIAs, ces questions demeurent sans réponses concrètes. TracIA ambitionne de développer des approches originales de crypto-tatouage et un système de « Data Leak Prevention » (prévention de la fuite de données) pour SIA fondé sur l’IA.

TracIA s’appuie sur un consortium multidisciplinaire de chercheurs expérimentés avec une expertise dans les domaines de la cybersécurité, de l’informatique et de l’informatique médicale, du traitement de l’information et des sciences humaines et sociales, avec un accès privilégié à une infrastructure SIA pour évaluer et valider les solutions développées.