Tous les métiers de la recherche clinique sont en train d’augmenter leur usage de l’intelligence artificielle, de l’attaché de recherche clinique au biostatisticien en passant par le rédacteur médical. Cette intégration croissante de l’innovation, ouvre en même temps, des gains de compétitivité précieux pour nos structures françaises de recherche clinique, publiques ou privées, et des défis éthiques, réglementaires et organisationnels.
C’est pourquoi, l’association française des entreprises de la Recherche Clinique (AFCROs) publie la première charte de référence pour définir et encadrer un usage raisonné et responsable de l’IA et notamment de l’IA générative. Cette charte vise à fournir à ses adhérents un cadre général, fondé sur des principes de transparence, d’éthique, de sécurité et de respect des droits fondamentaux des patients.
L’AFCROs attire l’attention sur les dérives potentielles amplifiés par un usage de l’IA. Les risques sont multiples : fuite de données sensibles, utilisation abusive des données de santé, amplification de biais existants dans les études, algorithmes complexes et opaques incontrôlés, questionnement sur la fiabilité des résultats, amplification des attaques externes des systèmes et cyber insécurité…
Les grands principes de la charte d’utilisation responsable de l’IA en Recherche Clinique visent à mettre en place dans chaque bureau d’études et entreprise de la recherche clinique, membre de l’AFCROs, une dynamique collective et responsable et notamment :
- Un encadrement rigoureux de l’utilisation des outils IA, avec un registre des usages et l’exclusionformelle des applications interdites par l’AI Act (REF) (manipulation cognitive, reconnaissance faciale en direct, social scoring…).
- Une utilisation contrôlée des IA génératives. Seuls des contenus non sensibles peuvent être traités avec les outils grand public (ChatGPT, Claude, etc.), toutes données confidentielles ou stratégiques étant strictement interdites sur ces plateformes.
- Une responsabilisation renforcée des utilisateurs. Les collaborateurs de la recherche clinique doivent adopter un usage éthique, questionner et vérifier systématiquement les résultats générés et faire valider tout contenu critique par un expert humain.
- La mise en place d’une gouvernance dédiée incluant un Comité IA chargé de superviser les projets, des formations obligatoires pour les équipes, ainsi qu’un dialogue social renforcé pour anticiper les impacts organisationnels.
- La traçabilité, des audits réguliers et une transparence contractuelle. L’usage de l’IA doit être validé par toutes les parties prenantes du projet de recherche et intégré aux contrats.
Par cette initiative, l’AFCROs réaffirme son engagement pour une recherche clinique de qualité, respectueuse des droits des patients et alignée sur les réglementations européennes, notamment le Règlement sur l’IA (AI Act) et le RGPD.
« Cette charte concrétise notre volonté collective de faire de l’IA un levier d’accélération des innovations en recherche clinique avec une expertise et une maîtrise renforcée de ses risques. Nous souhaitons protéger la science et les patients», déclare Yoanni Matsakis, président de l’AFCROs.
