Boîte noire, boîte blanche ou boîte de Pandore, l’utilisation de l’IA en faveur de la santé physique, mentale et du bien-être interroge. Entre incertitude et inquiétude, est-elle une formidable source d’espoir en termes de fiabilité de diagnostic et d’accélération des examens médicaux ou celle de tous les maux de l’humanité à venir, en cas de perte de contrôle ?
Professeur émérite à l’université de Princeton, John Hopfield, tout jeune prix Nobel de physique de 91 ans et un de ses pionniers, a récemment alerté la communauté scientifique en déclarant « en tant que physicien, je suis très troublé par quelque chose qui n’est pas contrôlé, quelque chose que je ne comprends pas assez bien pour savoir quelles sont les limites que l’on peut imposer à cette technologie. »
Des propos ayant de quoi faire réfléchir quant aux potentiels dangers de ces « merveilles absolues » que constituent les systèmes d’IA modernes dont les capacités « dépassent celles que vous pouvez imaginer à l’heure actuelle » et qui plaident pour un impérieux besoin de transparence.
Dans le subtile équilibre qui lie progrès, sciences et éthique, l’implication des professionnels de santé est indispensable pour garantir le déploiement d’un numérique en santé, sécurisé, inclusif et écoresponsable comme le développe Brigite Séroussi à qui nous consacrons notre publication mensuelle. Sortir de l’ombre vers la lumière, et bâtir la santé de demain avec la confiance comme clé de voute.
A une autre échelle, face aux risques engendrés pour les intérêts publics et les droits fondamentaux, l’Union européenne a adopté, cet été, son premier texte contraignant afin d’harmoniser les règles concernant l’intelligence artificielle.
De notre point de vue au sein du cabinet, si l’avenir de la santé appartient à l’intelligence artificielle, il repose sur notre capacité à maîtriser nos données. Sans données fiables, normalisées et structurées, toute application d’IA en santé n'est qu’une illusion, un château de cartes prêt à s’effondrer, une promesse non tenue. C’est pour cette raison nous sommes en train de finaliser un livre blanc dédié au sujet et conçu comme un appel à l’action, que nous aurons le plaisir de vous présenter d’ici la fin de l’année.
« Calmez le désordre avant qu’il n’éclate. Prévenez le mal avant qu’il n’existe ». Ces mots de Lao-Tseu que nous avions choisi en janvier pour incarner nos vœux raisonnent décidément comme un avertissement que nous nous efforçons de prendre en compte dans chacune de nos missions.
Didier Ambroise
Associé fondateur Doshas Consulting