Pratiques innovantes
21/01/2021

L’IA en santé : la comprendre et savoir l’utiliser !

L’usage de l’Intelligence artificielle (IA) se développe inexorablement dans le secteur de la santé depuis quelques années. Si on utilise souvent le concept à tort, son usage progresse bel et bien, soit au sein des logiciels métiers, soit directement intégré à des dispositifs et des matériels médicaux. La pharmacie hospitalière n’échappe pas au phénomène. Mais de quoi parle-t-on ? Quels en sont le potentiel et les limites ? Explications.

L’intelligence artificielle (IA) et son impact sur les pratiques et la société est dorénavant un sujet pris très au sérieux par les pouvoirs publics. A tel point que début décembre 2019, le Premier ministre de l’époque avait chargé le Comité consultatif d’éthique (CCNE) de créer un Comité pilote d’éthique du numérique. Cette décision avait été recommandée dans un avis du CCNE lui-même mais également par le rapport de Cédric Villani « Donner un sens à l’intelligence artificielle » de mars 2018. Ce nouveau Comité, placé sous l’égide du CCNE, est dirigé par Claude Kirchner, directeur de recherche émérite Inria (Institut national de recherche en informatique et en automatique).

IA, de quoi parle-t-on ?

Donner une définition définitive de l’IA est risqué, car elle évolue au fur et à mesure que les recherches avancent. Pour Yann Le Cun, chercheur en intelligence et vision artificielle, lauréat du Prix Turing 2019 et aujourd’hui responsable de la recherche en intelligence artificielle (IA) de Facebook, il est possible de la décrire comme « un ensemble de techniques permettant à des machines d’accomplir des tâches et de résoudre des problèmes normalement réservés aux humains et à certains animaux ». L’intelligence est aujourd’hui associée à la robotique mais aussi au « machine learning », soit la capacité d’un logiciel à apprendre de son expérience et des données reçues, suite à ses premières actions. C’est cette capacité du logiciel et de la machine à aller au-delà de la programmation initiale faite par l’homme qui suscite fantasme et interrogations, même si, à la fin, tout découle des algorithmes inventés par l’Homme. En effet, pour Luc Julia, chercheur, co-créateur de Siri, l’une des intelligences artificielles les plus célèbres au monde, et aujourd’hui vice-président de l’innovation chez Samsung, « on a commencé à fantasmer sur l’idée qu’on pourrait créer quelque chose proche de nous qui nous remplacerait, voire nous contrôlerait. Alors que c’est l’inverse : c’est nous qui contrôlons l’IA ! Cette IA dont on parle à longueur de journée n’est qu’un outil, comme un bon marteau ou un couteau. »

Il n’empêche, la question de son usage se pose toutefois de façon aigue en médecine lorsque l’IA intervient dans le diagnostic mais également dans la décision médicale en proposant des options thérapeutiques comme le font déjà certains logiciels.

Des concepts remontant aux années 50 et 90

A en croire David Gruson, membre du nouveau comité pilote d’éthique du numérique et fondateur du think tank Éthik-IA, si l’IA est aujourd’hui au-devant de la scène, il ne s’agit cependant pas d’un sujet tout neuf : « Tout ce buzz autour de l’Intelligence artificielle et de la robotisation est moins une révolution de la science informatique qu’une révolution des usages. Les concepts d’IA et de machine learning remontent respectivement aux années cinquante et aux années quatre-vingt-dix. »

Concernant le secteur de la santé, David Gruson précise que, « lorsqu’on regarde ce qui a trait à l’IA et à l’aide à la décision clinique, cela concerne d’abord et principalement les disciplines médicales les plus proches du plateau technique, autrement dit, les disciplines médicales dont la matière première est du code numérique, que ce soit la radiologie, la dermatologie, l’ophtalmologie, la biologie… »

Attention à la perfection affichée de l’IA

Pour autant, l’IA est-elle la solution à tous les problèmes ? Il est vrai que les applications potentielles sont très nombreuses et font rêver par la capacité de l’IA à gérer les situations complexes et à prendre en compte un grand nombre de données, en quantité comme en diversité.

Outre les problèmes de sécurité inhérent à tout dispositif informatique, le principal danger de l’IA dans le monde de la santé serait justement de la croire infaillible. Il serait extrêmement dangereux pour les professionnels de santé de s’en remettre les yeux fermés aux préconisations de leur logiciel « enrichi » en IA sous prétexte qu’elles sont établies sur la base d’un très grand nombre de cas et qu’elles sont fiables à 99,9%. C’est précisément contre quoi David Gruson met en garde quand il parle « d’évaporation du consentement susceptible de s’appliquer dans le cas d’une proposition thérapeutique »

Il est indispensable que les professionnels de santé conservent leur capacité à décider, à consentir. Aisé à dire, plus compliqué à faire quand le logiciel aura délivré des centaines de préconisations pertinentes et acquis la confiance de tous : qui aura la clairvoyance et le courage de le remettre en cause et de ne pas appliquer une de ses préconisations ? Pour cela, les professionnels de santé vont devoir continuer à exercer leur vigilance et apprendre à résister à la collectivité qui aura tôt fait d’accorder sa confiance au logiciel plutôt qu’à l’Homme. Bref, le principal écueil de l’IA réside dans sa très grande performance !

Drugcam®, l’œil de lynx

Drugcam® est un système de contrôle vidéo de la fabrication de chimiothérapies injectables. Commercialisé depuis 2014 après avoir élaboré et adopté par le Groupe hospitalier de La Rochelle-Ré-Aunis, il fait appel à l’IA. Explications.

Doté de caméras miniatures, Drugcam® assure, grâce à l’analyse par traitement d'images des étapes critiques (préparation, lecture de la prescription, reconnaissance des flacons, lecture du volume de la seringue…) un contrôle per process sans risque et post process. Il arrête en effet le préparateur en cours de fabrication s'il détecte une erreur (de flacon et/ou de volume prélevé), évitant du même coup les gaspillages. Le préparateur est ainsi guidé dans son processus de fabrication grâce à un écran placé à proximité tandis que le pharmacien a la possibilité, via une plate-forme Internet, de contrôler et de libérer à distance les préparations en post production avec, à la clef, une sécurisation accrue. Sachant que l’enregistrement vidéo de la préparation est archivé en cas de problèmes médico-légaux.

Toujours est-il qu’en matière d’IA, il en va de la pharmacie comme du reste : l’homme reste le maître d’œuvre. Ce que confirme le Docteur Benoît Le Franc, coconcepteur de Drugcam® et pharmacien au Groupe hospitalier de La Rochelle-Ré-Aunis, sur le site Internet de l’établissement : « Les métiers demandant des gestes de précision seront peu concernés par l'automatisation même si leurs tâches sont répétitives. Dans ce sens, en pharmacotechnie, les préparateurs ont une grande valeur ajoutée dans la qualité et la sécurité de la préparation (gestion des reliquats, productivité, adaptabilité). L'homme reste, à ce jour, plus performant que la machine dans les process de préparation complexes concernant les anticancéreux. Toutefois, l'opérateur doit être assisté et sécurisé dans son travail. Drugcam® permet d'interagir avec le préparateur et le sécurise durant les étapes les plus critiques et répétitives. » La solution Drugcam® a depuis été déployée dans près d’une trentaine d’établissements en France. Reste à mesurer dans le temps l’apport de ces solutions sur la baisse du nombre d’erreurs.

L’IA, tueuse d’emplois ?

IA en santé rime-t-elle avec licenciements ? Non… mais elle rime avec reconfiguration : « Le développement de l’IA en santé aura un effet sur l’emploi dans le secteur, mais concernera d’abord et principalement les fonctions qui ne sont pas directement liées à la prise en charge du patient », prévient David Gruson. 

Ce qui signifie que pour la pharmacie, il convient d’opérer une distinction entre la logistique connexe et tout ce qui relève de la pharmacie en tant que telle. Avec, à la clef, « un repositionnement du pharmacien dans des fonctions plus expertes, dans un rôle à plus haute valeur ajoutée pour développer ses fonctions de relais et de conseil stratégique ». Là, le bénéfice attendu est évident : « améliorer la pertinence des prescriptions intra-hospitalières et mieux organiser la gestion du médicament sur un parcours patient plus complet ».

Information médicale

Une question sur un produit ? Un article que vous souhaitez consulter ? Besoin d'aide pour vos recherches bibliographiques ? Nous pouvons vous aider.

M-FR-00002621-2.0
Établi en août 2022