L'intégration de l'IA en santé, à quelles conditions ?

L'Académie nationale de médecine insiste sur l'importance éthique d'intégrer les systèmes d'intelligence artificielle (IA) dans le domaine de la santé. Elle souligne la nécessité d'une formation adéquate et rappelle l'adoption d'un cadre juridique en Europe pour encadrer leur utilisation.

Généralisation des systèmes d'IA générative en Santé : une recommandation essentielle

Dans un récent rapport, l'Académie nationale de médecine met en avant l'impératif de généraliser l'usage des systèmes d'intelligence artificielle générative (SIAgen) dans le secteur de la santé. Elle insiste sur leur inévitable intégration dans tous les domaines médicaux, soulignant ainsi leur rôle incontournable dans les soins.

Qu'est-ce que l'IA générative ? 

Selon google, L'IA générative ou l'intelligence artificielle générative fait référence à l'utilisation de l'IA pour créer de nouveaux contenus, comme du texte, des images, de la musique, de l'audio et des vidéos.

L'IA générative s'appuie sur des modèles de base (grands modèles d'IA) qui peuvent effectuer plusieurs opérations en même temps et réaliser des tâches prêtes à l'emploi, telles que la synthèse, les questions/réponses, la classification, etc. De plus, les modèles de base ne nécessitent qu'un entraînement minimal et peuvent être adaptés à des cas d'utilisation ciblés avec très peu d'exemples de données.

Voici un exemple d'utilisation de l'IA générative : explorer de grandes quantités de données non structurées et modéliser des systèmes biologiques complexes. 

La formation initiale : clé de l'adoption éthique et efficace des SIAgen

L'académie souligne la nécessité d'une formation initiale obligatoire pour tous les professionnels de santé, intégrant les principes de fonctionnement, les implications éthiques et les aspects réglementaires des SIAgen.

Cette formation vise à garantir une utilisation éthique et efficace de ces outils de manière à ne pas se substituer au rôle des médecins mais en les aidant à optimiser leur temps.

Interdisciplinarité et utilisation responsable : conditions indispensables

L'interdisciplinarité est considérée comme essentielle pour le développement et l'utilisation des systèmes d'IA en santé, combinant expertises médicales, techniques et éthiques. L'Académie souligne également l'importance de la supervision humaine pour garantir un usage responsable des SIAgen, tout en préservant la relation patient-soignant.

Recommandations clés pour une utilisation responsable des SIAgen

L'Académie émet dix recommandations cruciales notamment pour garantir  la cybersécurité et en matière de propriété intellectuelle des données :

• La formation à l'usage des SIAgen de tous les professionnels de santé ;
• La généralisation de l'usage des SIAgen par les professionnels de santé ;
• La non communication de données personnelles des patients et des professionnels de santé à des SIAgen dont la maîtrise en France ou en Europe n'est pas clairement établie ;
• Toute utilisation des SIAgen doit faire l'objet d'une supervision humaine et le temps consacréau colloque singulier patient-soignant doit être préservé voire renforcé quels que soient les systèmes numériques utilisés ;
• La responsabilité des différents acteurs, concepteurs, utilisateurs doit être clairement déterminée par une réglementation prenant rapidement en compte le règlement européen sur l'IA ;
• La cybersécurité des établissements de santé et des plateformes de données de santé doit être traitée comme une priorité première et absolue;
• La propriété intellectuelle des données servant à l'apprentissage des modèles doit être garantie et notamment celle des publications scientifiques ;
• Les recherches sur les applications en santé des SIAgen doivent être fortement soutenues au niveau national et européen afin de réduire la dépendance aux entreprises étrangères et de progresser vers une souveraineté numérique européenne ;
• L'utilisation des SIAgen doit se faire dans le respect des principes éthiques ;
• Les impacts environnementaux et énergétiques de la conception, mise en oeuvre et utilisation des SIAgen en santé doivent être précisément mesurés et pris en compte dans l'évaluation de l'impact environnemental du système de santé.

Cadre juridique européen sur l'IA : vers une régulation complète

Adoption unanime de la loi sur l'Intelligence Artificielle par l'Union Européenne

Les vingt-sept membres de l'Union européenne ont approuvé à l'unanimité la première loi sur l'intelligence artificielle, définissant un cadre juridique complet pour son utilisation. La version finale a été présentée le 21 janvier 2024. Cette loi vise à promouvoir une IA digne de confiance tout en garantissant le respect des droits fondamentaux et des principes éthiques, avec une attention particulière aux risques associés à des modèles d'IA puissants. Les domaines d'application comprennent la robotique, la santé, la biotechnologie, la fabrication, la mobilité, le climat et les mondes virtuels.

Échéances et mise en oeuvre de la loi

La loi entrera en vigueur dans un délai de vingt jours suivant sa publication officielle, avec une pleine applicabilité prévue dans les deux ans. Elle définit des niveaux de risque pour les systèmes d'IA  (risques inacceptables,hauts risques, risques limités et risques minimums) et établit des règles spécifiques pour chaque catégorie, tout en fixant des délais pour l'application des différentes mesures réglementaires.

Ainsi, l'Académie nationale de médecine met en avant l'importance de l'IA dans le domaine de la santé tout en soulignant la nécessité d'une utilisation éthique et responsable de ces technologies, conformément au cadre juridique européen établi.

 Pour en savoir plus sur l'IA dans les soins de santé