Par Aurore MARCOU
Médecin anesthésiste réanimateur, exerçant à la Fondation Rothschild, très attentive en tant que médecin aux projets numériques (référente informatique, implication dans le développement des interfaces de communications hospitalières et de recherche autour de l’intelligence artificielle), elle travaille en même temps le sujet de la place de l’homme au cœur de cet univers grâce à un parcours philosophique au sein du Master d'Ethique Médicale de l'université Gustave Eiffel.
Article référencé comme suit :
Marcou, A. (2020) « Intelligence artificielle en médecine : la tentation de la substitution par la machine » in Ethique. La vie en question, octobre 2020.
Le texte est accessible en version PDF au bas de l’article
Vous êtes installés dans la blancheur immaculée d’un bloc opératoire. Un casque sur vos oreilles émet une musique créée pour ralentir progressivement votre rythme cardiaque et vous apaiser. Des capteurs sont installés, sur votre index pour lire votre niveau d’oxygénation, sur votre poitrine pour écouter les battements de votre cœur, sur votre poignet pour mesurer votre relâchement musculaire, sur votre front pour lire la profondeur de votre sommeil, dans votre dos pour évaluer votre anxiété. Un soignant inscrit votre sexe, votre poids, votre taille, votre âge dans le logiciel d’anesthésie. Des pousses-seringues automatisés vous entourent. Une fois déclenchés, ils injecteront les médicaments pour vous endormir et s’activeront tout le long de l’intervention pour vous maintenir dans un état de sédation grâce à une boucle autorégulée. Les intelligences artificielles veillent à présent sur vous. Ce scénario n’est pas une fiction. Ces logiciels qui s’affinent depuis plusieurs années portent les doux noms d’AIVOC (Anesthésie IntraVeineuse à Objectif de Concentration), BIS (Bispectral Index), ANI (Analgesia Nociception Index) ou logiciel Musicare. Le développement des logiciels implémentant l’intelligence artificielle participe aux progrès de l’anesthésie et au-delà, de toute la médecine.
Le traitement des données recueillies à partir de milliers de patients promettent d’extraire des informations pour mieux prévenir, diagnostiquer, traiter. La rareté d’une maladie peut être compensée par les informations recueillies sur d’immenses bases de données comme autant d’expérience engrangée. Du dépistage au diagnostic, du choix du traitement à sa surveillance, de la recherche à l’accompagnement, les logiciels d’intelligence artificielle trouvent des applications multiples. L’IA promet une médecine de demain plus efficiente, plus rapide, plus personnalisée.
En même temps, l’IA inquiète. Rarement, un nouvel outil technique en médecine n’a suscité autant d’effervescences et d’interrogations. Les performances incontestables des logiciels dans des tâches jusque-là réalisées par des humains interrogent sur leur avenir. Les performances du numérique en médecine rendent aujourd’hui possible la substitution de l’humain par des logiciels. Grâce à l’alignement de sauts technologiques dans les domaines des mathématiques et de l’informatique, l’information peut être aujourd’hui numérisée, stockée sur des composants miniaturisés à la portée de tous. L’introduction d’une architecture en couches multiples permettant aux structures élémentaires de calcul ou neurones artificiels d’interagir les uns avec les autres de manière variable, rend possible aux algorithmes de corriger leurs connexions au fur et à mesure qu’ils intègrent de nouvelles données pour améliorer leur performance, et leur permet donc d’ « apprendre ». Ces algorithmes s’appuyant sur un modèle de rationalité mathématique visent à reproduire des capacités cognitives humaines telles que la perception de l’environnement, la compréhension d’une situation et la prise de décision, amenant à la dénomination d’intelligence artificielle. En s’attachant en particulier à reproduire le raisonnement d’hommes de métiers, des systèmes experts reposant sur l’IA deviennent aptes à accomplir des tâches médicales jusque-là dévolues à des êtres humains et donc à les remplacer. Aura-t-on besoin d’autant d’anesthésistes quand des boucles d’anesthésie assisteront le sommeil des opérés ? Aura-t-on besoin d’autant de radiologues quand des logiciels liront les images sans fatigue à toute heure du jour ou de la nuit ? Aujourd’hui qu’un tel outil est disponible, nous pouvons être tentés qu’il se substitue à nous.
Ce questionnement s’est mué en perplexité quand un jeune anesthésiste en formation un jour affirma : « Je ferais certainement plus confiance à une intelligence artificielle qu’à un humain pour m’endormir. De toute façon, un jour, la médecine se passera de nous ». Le détachement de mon interne affirmant sa confiance absolue pour les IA face à l’humain, retentissait moins comme une triste soumission qu’un choix assumé. Nous ne ferions donc pas que subir la concurrence d’une technique innovante. Nous allons vers elle et la réclamons. Il serait facile de se retrancher derrière une opposition technophile/ technophobe, une dénonciation simple des intérêts lucratifs ou d’invoquer un banal affrontement intergénérationnel. Cela négligerait l’apport incontestable de cet outil innovant en médecine et n’ôterait en rien l’ambivalence de notre rapport à l’IA. A la fois, l’étendue des applications de l’IA nous effraye, à la fois, elle nous fascine. Pourquoi recherchons-nous l’IA ? Quelles raisons pourraient nous tenter d’accepter qu’il se substitue à nous ?
L’IA POUR COMPENSER NOS INSUFFISANCES
L’évolution humaine est depuis toujours tournée vers un effort pour surmonter ses limites. L’homme est cet étrange animal sans fourrure ni plume qui utilise sa main comme outil, avant d’en façonner pour augmenter sa force et son habilité. Cette recherche d’outils caractérise son intelligence. La technique est là, nécessaire pour compenser sa pauvreté en instinct et sa vulnérabilité physique. Comme le rappelle le mythe de Prométhée chez Platon, elle conditionne la survie de l’homme.
L’IA apparaît comme un outil idéal. Toujours disponibles, réactifs, les algorithmes sont capables d’effectuer des tâches de manière rapide, sans erreur, à toute heure. Ils ne se déconcentrent pas, ne se fatiguent pas. Confier aux machines la lecture des images radiologiques, l’entretien d’une anesthésie soustrait aux aléas de l’attention et de la disponibilité humaine. De plus, aptes à comparer de grandes quantités de données, ils aident à déterminer la juste action, par exemple préconiser une chimiothérapie, en prévoir les risques de toxicité, estimer le taux de succès. L’IA cadre avec les objectifs d’efficience, de rendement, attendues dans les services rendus par la médecine dans une économie libérale. Elle offre d’assister le médecin limité dans sa capacité de travail, ses possibilités de présence. Légitimée par la logique de rationalité, elle lui offre de mieux contrôler.
L’IA nous offre de compenser nos insuffisances, mais aussi de nous décharger de ce qui nous semble pénible, voire de ce qui ne retient plus notre intérêt. Lire les mêmes images, pousser les mêmes seringues, dérouler les mêmes questions, rassurer un patient dément inlassablement … Que jugeons-nous suffisamment pénible pour préférer qu’il soit délégué ? Où poser à présent le curseur de notre désintérêt ? La technique en nous offrant l’opportunité de déléguer des tâches révèle en même temps l’étendue d’une perte de sens.
L’IA POUR DEPASSER NOS LIMITES
L’IA n’ambitionne pas d’être une simple réplique de nous-même. Elle nous offre les moyens certes de compenser nos limites mais encore mieux de les dépasser. Elle est vouée à faire mieux que l’homme, accomplir les tâches avec plus d’efficience sans faillir donc de manière idéale. L’IA révèle ainsi notre obsession de maîtrise et de perfection. En même temps, la présence d’une telle technique nous confronte à la réalité de nos failles humaines, à nos vulnérabilités que nous avons tant de mal à accepter.
Face à la maladie, le doute et l’incertitude sont perçus comme vecteurs d’anxiété. Quel est le diagnostic ? Quel traitement sera efficace ? Quel est le pronostic ? Nous demandons à sécuriser nos décisions pour les patients comme pour nous-mêmes. Nous associons l’incertitude à l’ignorance et l’ignorance à l’impuissance. Les algorithmes répondent justement à ce besoin de certitudes. Ils sont capables d’identifier en temps réel la juste action. Ils donnent à la médecine les moyens de déterminer la pertinence d’une action dans le présent, d’expliquer par les éléments passés et de prédire ce qui est à venir. Perfectionnant l’art du kairos, l’IA répond à notre besoin de maîtrise. En agissant et décidant selon des algorithmes rationnels, nous aimerions bannir l’hésitation et l’indétermination pour mieux contrôler nos actes, notre environnement et nous-même. La technique vient répondre à notre idéal de maîtrise.L’IA nous offre par ailleurs de ne plus faillir dans un domaine où l’exigence de soin est devenue maximale. Nous acceptons difficilement l’erreur, plus encore l’erreur médicale. Celle-ci est assimilée à la faute, et la faute à un échec. Le droit justement est là pour en assurer la réparation. L’IA apparaît plus à même d’accomplir nos tâches sans faillir. Les vitesses de calcul, la constance d’exécution assurent reproductibilité et exactitude. L’IA répond à notre idéal de perfection. Légitimés par la rationalité statistique, les résultats des algorithme s’imposent à nous comme une vérité que nous remettons difficilement en cause. L’opacité technique loin d’éveiller notre défiance entraîne notre confiance. A l’image d’une nouvelle Pythie, l’IA exerce une autorité nous permettant peut-être de mieux accepter les décisions que nous ne pouvons maîtriser. Nous est-il plus confortable de laisser la décision à une entité supérieure rationnelle plutôt qu’à un de nos semblables ? Y aurait-il un certain orgueil à refuser de dépendre des siens ? On entrevoit dans ces circonstances la tentation de se décharger de la responsabilité de l’autre. L’homme qui refuse de faillir supporte difficilement l’attente de l’autre. Il préfère se disqualifier d’emblée face à la technique plutôt que d’être mis à l’épreuve. Il peut préférer démissionner plutôt que de risquer de décevoir et se décevoir. Obnubilé par son obsession de contrôle et de rationalisation, l’homme aboutit au paradoxe d’une pensée magique, celle de préférer tout céder à une entité qu’il ne maîtrise pas. Ce faisant, l’homme fait endosser à l’IA une puissance de vérité à laquelle elle ne prétend pas.
L’INTELLIGENCE ARTIFICIELLE POUR FUIR L’AUTRE ?
Des algorithmes veillent aujourd’hui sur les convocations de patients et le rappel des consignes opératoires. D’autres les interrogent une fois rentrés chez eux. « Quel est votre niveau de douleur ? Avez-vous des nausées ? ». Dans un objectif d’efficience, la présence soignante se fait progressivement virtuelle : les appels téléphoniques se dématérialisent en SMS, des peluches intelligentes sont placées sur les genoux des patients agités. L’IA accompagne ce mouvement. Combiné à l’expertise métier, elle est capable de dérouler l’algorithme d’un raisonnement médical, d’orienter vers la décision thérapeutique appropriée et donc de remplacer le soignant dans sa tâche. La technique nous offre ainsi l’opportunité de se substituer à nous et de nous décharger de notre obligation de présence à l’autre. Ce troisième sens est sans doute pour nous plus difficile à avouer.
Le monde numérique fournit aujourd’hui presque toutes les ressources pour répondre aux questions médicales, même les plus intimes. Interface directe, il permet d’accéder à une expertise médicale tout en s’affranchissant du recours à l’autre. Cette mise en relation directe est perçue comme un avantage. On peut s’affranchir de l’autre pour prendre soin de soi. Entouré de toute l’attention numérique rendue encore plus efficace par la personnalisation renforcée, on est encouragé à prendre soin de sa santé comme projet de perfectionnement de soi. Les logiciels mesurent nos pas, nos heures de sommeil, notre alimentation. Ils nous conseillent et nous incitent à entrer dans un cercle vertueux de bien-être physique. Ils font le diagnostic d’un cancer de la peau à travers l’objectif d’un smartphone. Ce faisant, en favorisant l’interaction directe, les logiciels estompent la nécessité de médiation. L’humain n’est plus l’interlocuteur privilégié. La place du médecin est relativisée. L’autorité des experts que sont les professionnels de santé est remplacée par l’expertise calculatoire des logiciels ou par les avis démocratiques et profanes s’exprimant sur les forums de la toile numérique. En allant à la rencontre des besoins individuels, l’IA offre la possibilité de ne plus interagir avec l’autre.
L’émancipation du regard médical peut rejoindre le désir d’échapper à l’autre. Entrer en relation n’est pas toujours facile et nous pouvons être tentés de rester à distance les uns des autres. En tant que patient, nous pouvons soumettre notre corps au regard technique d’un expert, mais nous pouvons aussi aspirer à nous soustraire au regard humain par crainte d’y lire jugement, incompréhension, désapprobation. Les algorithmes permettent justement d’accéder à l’expertise médicale tout en jouissant du confort de la neutralité relationnelle, de l’apparent anonymat des logiciels. En tant que soignant également, nous pouvons craindre la relation à l’autre. Rentrer en relation avec l’autre représente un effort. Trouver les mots et l’attitude justes pour s’adapter à l’autre dans sa singularité dans une situation donnée demandent un effort de communication. Tout en remplissant leurs tâches, les algorithmes nous dispensent de faire cet effort de relation. Ils nous épargnent aussi le risque de ressentir des émotions par trop suspectes. S’approcher un peu trop de l’autre, voire « s’attacher » à lui ne risque-t-il pas de nuire à la relation de soin ? Dans cette méfiance des affects, des liens humains, de l’autre, les algorithmes répondent avantageusement à leurs fonctions sans risquer de déborder. Ils proposent une interaction restreinte à la fonction. Ils nous épargnent le risque de la relation à l’autre.
L’interaction numérique se fait d’ailleurs sur un mode de communication universel visant le plus grand nombre. Ce langage est ainsi dépouillé, réduit au fonctionnel et à l’utile. Il ne s’encombre pas des subtilités de la singularité, de l’effort d’adaptation individuelle et circonstancielle. Immédiat, parfois même violent, le langage numérique ne cherche pas à ménager un temps pour la compréhension et la réflexion. Sourd, il n’offre pas la possibilité d’écoute, ni d’échanges. On peut se demander alors si un tel langage est adapté à la dimension du soin ? Quel réconfort un logiciel peut-il apporter à la mise en vulnérabilité soudaine d’un être confronté à la maladie ? En confiant nos tâches de soins aux machines, ne sommes-nous pas en train d’abandonner le patient à des machines effectrices mais muettes ?
Paro est un phoque duveteux, une peluche « intelligente » dotée de capteurs sensoriels élaborés. Son grand regard synthétique s’anime pour capter l’attention, ses vibrations régulières comme un ronronnement, sont là pour apaiser des personnes atteintes dans leurs fonctions cognitives. Posé sur les genoux des personnes démentes, il simule une présence tendre et rassurante. La technique est là utilisée comme un leurre à notre présence. Elle diminue la solitude et détresse des patients vulnérables, quand les soignants ne sont plus en nombre pour s’assoir à leur côté ou qu’ils n’en ont plus envie. La concurrence de la technique apparaît alors opportune pour les décharger d’une obligation de présence dans laquelle ils ne trouvent plus forcément de sens.
Cette perte de sens peut nous inviter à revoir notre conception du soin. Soumis aux impératifs de temps, de personnel, de rentabilité, la médecine se focalise sur les actes prodigués pour le soin du corps. La conception du soin cédée à une IA est d’ailleurs celle réduite au soin du seul corps, dissocié de toute fonction relationnelle. Or peut-on ignorer la dimension psychique et le rôle de la relation thérapeutique ? Pouvons-nous considérer comme suffisante le soin prodigué par une technique ne répondant qu’aux soins du corps ? Sommes-nous prêt au nom de la rentabilité à revenir sur la nécessité du care et réduire la médecine au simple cure ?
Nous trouvons toutefois des avantages à ce médiateur numérique entre les humains. Une IA, en se posant comme un tiers neutre, défait l’asymétrie patient-soignant et installe un nouvel équilibre pouvant diminuant les tensions. « Notre logiciel indique que ce traitement est recommandé dans votre cas. Nous allons, vous et moi suivre ces recommandations et pourront être confronté ensemble aux aléas thérapeutiques ». A l’image d’un GPS pacifiant la relation d’un conducteur avec son copassager, la médiation d’une IA peut ainsi soulager les tensions dans la relation de soin. En déchargeant le médecin d’une partie de la décision médicale, une IA diminue le poids de son rôle décisionnel et de l’attente du patient. On peut alors évoquer le confort d’une décharge de responsabilité. A l’heure d’une médecine judiciarisée, les médecins se protègent derrière des socles de recommandations d’experts et vont logiquement se retrancher derrière des expertises numériques.
Or pouvons-nous, médecins, véritablement nous comparer à des copassagers impliqués sans l’avoir demandé ? Avons-nous été transportés par hasard dans une relation de soin ? C’est pourtant à nous soignants, qu’il appartient d’apprendre transformer les tensions inhérentes à la relation de soin pour accompagner un patient dans son épreuve de vie. Peut-être est-ce en remettant bienveillance et ouverture dans notre regard, que nous pourrons donner aux patients le goût de la relation humaine. Ainsi en retrouvant notre vocation, seront nous en mesure d’affirmer ce à quoi nous tenons dans notre métier.
CONCLUSION
Avancer dans le monde des biotechnologies est facile. Inclure, mesurer, conclure selon les méthodologies de l’evidence based medicine font partie de notre culture médicale. Nous ne pouvons qu’être exhortés à aller de l’avant dans toutes les directions techniques permises par l’IA. Toutefois nous ne saurions mettre sur un même plan les algorithmes servant à l’aide décisionnelle et celles animant des peluches leurres de notre présence. Les champs de développement multiples de l’IA cachent des sens divergents. Les algorithmes peuvent servir l’homme comme s’en distancier. Ainsi pouvons-nous mieux comprendre nos mouvements de fascination et de crainte.
De multiples raisons nous poussent à nous laisser supplanter par la technique. Nous sommes tentés d’assister l’humain faillible et fatigable et d’accepter sa substitution par la machine au nom d’idéaux de rationalité, de maîtrise et de perfection. La technique nous offre aussi l’opportunité de de nous décharger de nos obligations de présence et nous épargner les inconforts de la relation à l’autre. Toutes ces raisons partagent toutefois le fil d’une même fuite. Refus de nos doutes, refus de nos défaillances, refus de nos émotions … Nous nous refusons nous-même.
La concurrence d’une technique aussi élaborée que l’IA nous renvoie soudainement à notre rapport à nous-même. La concurrence de la technique nous fait prendre conscience de nos limites, nos vulnérabilités et rend plus aiguë notre difficulté à nous accepter nous-même. L’homme déçu par l’homme, se tourne vers la machine qui se trouve là, opportunément. Il est tenté de se disqualifier et d’imputer à la technique sa propre démission.
C’est dans le progrès technique qu’il appartient de remettre l’homme au centre de cette réflexion. Nous devons faire l’effort de questionner ces sens pour naviguer avec justesse dans l’infini des possibilités techniques.
Nous pouvons alors interroger les valeurs au nom desquelles nous nous sommes engagés en tant que soignants. Ainsi retrouveront sens notre métier et ce qui nous anime. C’est aussi en prenant conscience de notre rapport à nous-même que nous pourrons retrouver le goût de l’autre. C’est peut-être ainsi que nous ne braderons pas à une technique, aussi évoluée soit elle, tout ce à quoi nous tenons. Concluons avec Hannah Arendt : « La seule question est de savoir si nous souhaitions employer dans ce sens nos nouvelles connaissances scientifiques et techniques, et l’on ne saurait se décider par des méthodes scientifiques […] Ce que je propose est donc très simple : rien de plus que de penser ce que nous faisons ».