Bernard Ars et Dominique Lambert, Université de Namur
Département Sciences-Philosophies-Sociétés
61 rue de Bruxelles
B-5000 Namur (Belgique)
Dans une série de textes, le président de la FIAMC, le Prof. Dr. Bernard Ars, M.D., Ph.D. partage son point de vue sur l’anthropologie chrétienne, dont l’approfondissement et la diffusion est le deuxième des trois objectifs de sa présidence.
Un monde envahit par les robots
La robotisation tient aujourd’hui une place fondamentale dans nos existences individuelles et collectives, et plus particulièrement en médecine. Cette robotisation, actuelle ou encore à venir, est accueillie ou désirée, non seulement parce qu’elle a déjà démontré son efficacité pratique, mais aussi parce qu’elle permet à certains de rêver à un dépassement des limites et des fragilités propres à l’humain. Mais bien entendu toute la question réside dans cette différence essentielle entre une réalité qui reste au service de l’homme et un rêve phantasmatique qui pourrait éventuellement se révéler destructeur. La médecine n’échappe pas à cette invasion technologique et à cet attrait grandissant pour la robotique.
Pour être précis, nous devons d’abord définir ce que l’on entend par un robot. Ce dernier est un système technologique complexe qui présente les trois éléments essentiels suivants: (1) une capacité à acquérir de l’information à partir de son environnement grâce à un ensemble de senseurs, (2) une capacité à traiter l’information grâce à des systèmes d’intelligence artificielle, et surtout (3) une capacité à agir et rétroagir sur son environnement. Un robot peut être plus ou moins autonome et plus ou moins mobile selon les cas et les contextes dans lesquels il est utilisé.
La robotisation de la médecine ne va pas sans poser de réels problèmes éthiques. Notre article voudrait se pencher sur certains d’entre eux. Mais, au préalable, il nous semble indispensable de proposer une classification fonctionnelle des robots en médecine.
Classification fonctionnelle des robots en médecine
Aujourd’hui, le rôle des robots en médecine est celui d’une aide, à la pratique médicale. Celle-ci consiste en la prise en charge d’un patient, en vue de l’établissement d’un diagnostic pour un traitement adéquat, qu’il soit médical, chirurgical ou de réadaptation fonctionnelle et sociale. Dans cette perspective, survolons un panorama très succinct de l’usage des robots en médecine actuelle. On peut distinguer principalement quatre classes de robots médicaux.
Tout d’abord, nous avons les robots d’aide au diagnostic qui sont basés sur l’imagerie par résonance magnétique, le scanner, l’échographie en trois dimensions, l’endoscopie,…, et qui permettent d’obtenir rapidement de nouvelles informations sur les pathologies. Ces robots sont devenus utiles pour l’acquisition de données indispensables au traitement des patients.
Ensuite, avec les robots d’aide au traitement médical, nous entrons dans le domaine de la biologie de synthèse et des « bio-nano-technologies ». La biologie de synthèse applique les principes de l’ingénierie pour modifier des systèmes biologiques ou les fabriquer de novo, en les dotant de fonctions améliorées voire complètement nouvelles. La bio-ingénierie consiste à utiliser ou à s’inspirer des mécanismes du vivant pour réaliser, à l’image des circuits
électroniques, des « nano-dispositifs » biologiques utilisables dans différents domaines et particulièrement en médecine curative. Ainsi sont conçues des bactéries reprogrammées artificiellement pour localiser et détruire des cellules cancéreuses, des « nano-laboratoires » permettant d’analyser le comportement des cellules directement dans le corps humain, de façon très ciblée, ainsi qu’une variété de biocapteurs permettant de détecter l’irruption de diverses pathologies. L’organisme se définit, entre autres, par son métabolisme. Le vivant s’organise, on le sait, en échangeant de la matière avec l’environnement, en l’assimilant et en se renouvelant sans cesse lui-même. Une nouvelle ingénierie « métabolique » consiste à restructurer le réseau métabolique, en modifiant les voies existantes, ou à créer de nouvelles voies, afin de faire produire par de nouveaux organismes, des molécules nouvelles.
Les robots d’aide au traitement chirurgical comprennent à la fois les nombreux implants robotisés et les « robots chirurgiens ». A côté de l’utilisation de plus en plus fréquente, d’implants performants, comme par exemple, le cœur artificiel total « Carmat » ou les implants cochléaires, les « robots chirurgiens », souvent très onéreux, permettent des gestes opératoires plus précis et moins de désagréments post-opératoires pour le patient. Ils pourraient même corriger automatiquement certains gestes chirurgicaux inadaptés ou dangereux (ce qui impliquerait un important degré d’autonomie laissé à la machine).
Enfin, nous devons considérer les robots d’aide à la réadaptation qui sont de deux types: les robots d’aide à la réadaptation fonctionnelle d’une part et sociale d’autre part.
Les premiers aident à corriger le handicap, lorsque la maladie ou des accidents ont altéré les capacités corporelles, en pratiquant l’entraînement physique (remplaçant ainsi le kinésithérapeute) ou en palliant les manques organiques par un exosquelette, comme dans les cas de bras amputés ou de tétraplégie (le système robotisé se substituant à la partie du corps faisant défaut). De nombreux progrès ont été effectués ces dernières années sur les interfaces entre le cerveau et les machines en vue d’un contrôle efficace des prothèses robotisées.
Les seconds, les robots d’aide à la réadaptation sociale, peuvent être utiles pour apporter un soutien psycho-social, aux personnes handicapées ou âgées, ainsi que pour amener les enfants autistes à plus d’interactions sociales. Il s’agit de « robots de compagnie » qui peuvent agir en vue de surveiller, de distraire ou d’aider certaines personnes lorsque les aides humaines font défaut ou sont rejetées pour des raisons pathologiques.
Quelques critères pour baliser une éthique de la robotique médicale
Nous voudrions proposer maintenant quelques repères susceptibles de fonder concrètement une évaluation éthique des usages de la robotique dans les domaines de la santé. Leur liste ne sera, bien entendu, pas exhaustive. Nous tenterons néanmoins de porter au jour les lignes directrices qui les soutiennent pour éventuellement stimuler et baliser la recherche d’autres critères éthiques en robotique médicale, envisagée du point de vue de l’aide au diagnostic, du traitement médical ou chirurgical ou de l’aide à la réadaptation fonctionnelle ou sociale.
1 Le robot doit rester au service du patient et non un moyen de l’exploiter ou de le contrôler à son insu
Les robots qui sont susceptibles de remplacer le personnel infirmier en transportant des médicaments ou des repas à des patients déterminés ou encore en permettant des diagnostics à distance, sont des machines qui ont la possibilité d’enregistrer toute une série de données
personnelles. Il est dès lors important que ce genre de technologie soit utilisé avec un sens aigu du respect de la vie privée en évitant la diffusion de données personnelles. La sécurisation des données engrangées par les robots et une application particulière du secret médical dans ce contexte devraient être des exigences importantes de l’utilisation de cette technologie dans le champ hospitalier. Les problèmes rencontrés aujourd’hui dans le contexte du “data mining”, de la recherche automatisée dans des immenses bases de données personnelles ne feraient que se renforcer dans le domaine des robots de compagnie utilisés dans les hôpitaux mais aussi dans les maisons de repos et de soins. Dans ce dernier cas, on pourrait craindre l’utilisation de données, financières par exemple, recueillies au cours des échanges entre les robots et les personnes âgées et vulnérables, à des fins commerciales ou malveillantes. D’autant plus que les robots pourraient voir se voir doter de capacités sophistiquées de détection et de mémorisation des émotions.
Nous verrons certainement se développer l’utilisation de « nanorobots » permettant de contrôler en continu certains paramètres physiologiques d’un patient en administrant un traitement en cas de comportement pathologique exceptionnel ou chronique. On ne peut nier l’importance et l’utilité de ces robots microscopiques. Cependant, leur utilisation devra être impérativement balisée. En effet, de tels robots injectés dans le corps du patient et contrôlés à distance pourraient bien entendu devenir des moyens de contrôle, de pistage ou de pression1 sur des individus. Il en va déjà de même aujourd’hui pour la question de puces qui sont injectées dans le corps de certains individus pour permettre leur localisation ou leur accès à certains lieux sécurisés.
Un dispositif de vigilance devrait donc être mis en place pour éviter que la technologie robotisée ne soit utilisée d’une manière qui viole le secret médical ou qui enfreigne la liberté des patients et l’intimité de leur vie privée.
2 La robotisation du corps se doit d’en respecter l’unité
Les robots médicaux prennent aujourd’hui les formes variées des prothèses. On pourrait songer à un remplacement progressif d’organes défectueux par des systèmes mécatroniques. Palier un certain nombre de déficiences, motrices, cérébrales, sensorielles,… est tout à fait important et légitime. Mais aujourd’hui, une série de théoriciens envisagent d’utiliser la robotique pour conférer au corps de nouvelles capacités, inédites, créatives, etc., avec comme seul horizon certains phantasmes esthétiques ou de puissance. Il est important de développer une réflexion qui pourrait évaluer l’utilisation des robots dans ce contexte. La notion d’unité cohérente pourrait en première approximation être introduite comme critère permettant d’évaluer le recours à une technologie robotisée. Même si elle présente des difficultés en termes de sa définition la notion d’unité cohérente du corps pourrait servir de référence. Restaurer l’unité d’un corps mutilé, comme le fait, entre autres, la chirurgie plastique, procède d’un désir de préservation et de rétablissement d’une unité. Par contre la greffe d’appendices robotisés, des capteurs, permettant éventuellement, et pour des raisons ludiques ou hédonistes, d’ouvrir de nouvelles sensations (liés à la détection de champs magnétiques, de signaux infrarouges ou infra-sonores…) est de nature à briser une unité cohérente de l’humain. L’idée d’une « augmentation de l’homme » par la robotique tel qu’il est envisagé par le
1 S. Tisseron, « Des robots et des hommes : lesquels craindre ? », Etudes, 4210, novembre
2014, pp. 33-44.
transhumanisme2 présente le risque de briser l’unité corporelle en le menant paradoxalement à un « homme diminué » ou lieu de « l’homme augmenté » tant convoité. L’unité corporelle est le produit d’une histoire biologique et sa modification peut conduire à nier un aspect anthropologique important. Une des balises éthiques pourrait être ici le respect de cette histoire qui fait partie aussi de la définition de ce qu’est la personne humaine.
3 La robotisation du corps se doit d’en respecter les limites
Au fond ce qui est en jeu dans la réflexion précédente est le respect des limites propres de l’humain. Prendre en compte les limites de la personne et les respecter est un des critères importants de l’usage de la robotique en médecine. La robotique peut être envisagée comme un moyen de dépasser nos limites et dans toute une série de situations c’est tout à fait légitime. Si je ne peux plus me mouvoir ou si je suis trop faible pour transporter certains objets, quoi de plus normal et pertinent que de songer à des systèmes qui me permettraient de contourner ces limitations. Mais je pourrais aussi songer à supprimer des limites qui font partie de la constitution usuelle de la personne humaine. Par exemple, alors que des exosquelettes robotisés sont tout à fait pertinents pour redonner une mobilité à des personnes paralysées, il semble inadéquat d’accéder à la requête de personnes qui voudraient se munir d’exosquelettes aux seules fins de démultiplier, pour le plaisir, leur force musculaire. Les robots ne doivent pas nous faire oublier que les limites font partie et sont une richesse de ce qui nous définit en propre. Le rêve d’un humain sans limite est contradictoire et destructeur. C’est pour cela qu’un des critères importants de l’usage de la robotique en médecine pourrait être celui du respect de nos limites. Le robot ne peut devenir une sorte de leurre qui nous bercerait dans l’illusion d’un monde sans limite. L’intégration, dans une conception de la robotique médicale, de la vulnérabilité et de la fragilité propres à l’humain est essentielle3.
4 La robotisation ne doit pas conduire à une suppression de la relation humaine et doit être respectueuse de sensibilités culturelles
Si l’on pense à introduire des « robots-compagnons » destinés à divertir, à surveiller ou à servir les personnes âgées dans une maison de retraite ou les patients dans un hôpital, on se doit de réfléchir aux problèmes importants que cela peut induire au niveau de la relation humaine. Sans exclure le recours à cette technologie, qui peut se révéler intéressante dans certains cas ou même dans certaines pathologies, il importe de se prémunir contre des formes d’enfermement dans une sphère purement virtuelle (comme c’est déjà le cas pour certains utilisateurs du cybermonde) et contre des comportements qui pourraient se traduire par un abandon des personnes, laissées seules au milieux de leurs assistants robotiques. Une des limites éthiques importantes à l’usage des robots dans le monde en général, et dans les milieux médicaux en particulier, est le danger d’une perte de la richesse propre du vis-à-vis humain. On sait que le remplacement systématique des humains par des machines, dans les gares, dans les banques,… ne va pas sans poser des questions et des problèmes. En effet, on fait dans ces situations comme s’il n’était en jeu que des rapports fonctionnels. Or c’est toute une vie relationnelle qui peut se construire autour des guichets des gares ou des banques qui ne peut se réduire et s’épuiser dans une fonction technique d’achat ou de vente… Une des
2 Cfr J.-M. Besnier, Demain les posthumains, Paris, Fayard, 2012 ; Encyclopédie du
trans/posthumanisme (sous la dir. De G. Hottois, J.-N. Missa, L. Perbal), Paris, Vrin, 2015.
3 A. Bernard (sous la dir.), Fragilité, dis-nous ta grandeur!, Cerf, Paris, 2013, Recherches morales ; Th. Magnin, Les nouvelles biotechnologies en questions, Salvator, Paris, 2013.
balises éthiques importantes doit être posée pour ne pas voir s’effacer complètement ce qui fait la richesse d’une relation gratuite et spontanée entre les humains.
Il faut tenir compte également des limites psychologiques des personnes et des sensibilités culturelles. En Europe par exemple, on n’apprécie pas nécessairement le recours à des robots androïdes, qui sont perçus comme « effrayants ». Ce n’est pas le cas dans d’autres régions du monde. Ceci montre qu’il importe de respecter le mode d’appréhension des objets techniques spécifique à un monde culturel donné.
5 L’utilisateur doit se garder d’une sorte de fascination technologique conduisant à une délégation démesurée de pouvoirs
Un des dangers de l’utilisation des technologies est la tendance qui mène à accepter et à ratifier une délégation importante de pouvoirs humains à une machine en raison de ses performances. La fascination induite par ces dernières peut conduire de fait à éliminer la place de l’humain dans un processus important de décision. Il est clair que les robots peuvent, et pourront de plus en plus, faire des taches que l’homme ne pourrait jamais réaliser. A ce titre il est utile et légitime d’en faire usage. Il serait même stupide et parfois dangereux de s’en priver. Mais il convient de ne jamais perdre de vue que le robot doit rester au service du décideur et non l’inverse. Or par inertie ou par facilité ou même par éblouissement, on voit souvent l’utilisateur se laisser conduire par la machine. Il est important de réfléchir aussi au fait que le recours systématique à des robots pourrait faire perdre aux médecins ou aux chirurgiens une expérience importante, forgée habituellement au contact direct avec les corps des patients, et qui se révélerait indispensable en cas de panne des systèmes robotisés ou de leur indisponibilité.
Il est donc important de mettre en place des protocoles précis permettant de vérifier, à tout moment, si l’usage de la technologie robotisée reste pleinement dans la ligne des finalités dictées par le décideur humain. Ceci implique en particulier de définir des situations précises où l’on devrait nécessairement réintroduire l’être humain dans la boucle décisionnelle. Ces situations se situent au cœur d’un équilibre dynamique qui refusent tout à la fois l’exclusion de la délégation de pouvoir et la démission totale du décideur et qui est tout entier orienté vers le but prescrit à l’utilisation d’une technologie déterminée. Une des balises éthiques sera ici de ne jamais perdre de vue le sens de la responsabilité. En effet, même si l’utilisation d’une machine, d’un robot peut facilement donner, par la médiation sophistiquée qu’elle introduit, l’impression d’une diminution de la responsabilité en cas de disfonctionnement, il ne faut jamais oublier la responsabilité ultime de celui qui la mis en œuvre et les intentions profondes qui l’anime.
Il serait utile ici de se rappeler la réflexion de Norbert Wiener ce grand mathématicien et fondateur de la cybernétique4 :
« Si nous sommes assez stupides pour abdiquer en tant qu’êtres humains et refuser le respect à nos congénères au nom de considérations douteuses sur l’efficacité et l’intelligence des machines, alors en effet l’humanité quittera la scène et le mérite bien. Ce qui importe est de
4 N. Wiener, God and Golem, cité de P. Cassou-Noguès, Les rêves cybernétiques de Norbert
Wiener, Paris, Seuil, 2014, Science Ouverte, pp. 165-166.
préserver un mode de vie humain, et aucune des perfections attribuées à la machine ne peut modifier substantiellement notre responsabilité à ce propos ».
6 La robotisation doit s’insérer dans un projet qui respecte la justice et qui n’accentue pas les fractures sociales
Une des questions éthiques importantes est de savoir qui pourra avoir accès aux technologies robotisées ? On peut redouter de voir se développer une médecine à deux vitesses. Le coût de ces machines, des structures de leur mise en oeuvre et de leur maintenance pourrait en éloigner les populations moins favorisées de nos sociétés ou des pays moins favorisés. Il est donc essentiel de penser aussi ces techniques en tenant compte des contextes sociaux et en prévenant l’émergence de nouvelles inégalités.
En conclusion, nous pourrions dire que l’éthique de la robotique médicale doit se baser sur des critères permettant de faire, à la suite de Jacques Ellul, une différence importante entre
« ce qui sert à l’homme et ce qui sert l’homme »5. Le robot médical peut servir à beaucoup de choses, mais il doit ultimement rester au service de l’humanité de l’homme, par un usage qui en fin de compte ne le conduit pas à se renier ou s’oblitérer lui-même. Ceci conduit
implicitement à refuser de recourir à des techniques qui risqueraient de briser son unité
définie par son histoire et de nier ses limites constitutives, hors desquelles il n’est qu’un phantasme ou une illusion. L’idée qui peut réguler l’usage de la robotique peut être une exigence de cohérence anthropologique : ne pas développer des techniques qui croyant augmenter l’humain en viendrait de manière contradictoire à le diminuer. Cette idée régulatrice pourrait se prolonger par le refus de l’effacement paradoxal de l’humain dans le projet même de service à l’humain.
En résumé, nous pourrions dire deux choses. Le sujet humain se doit de ne jamais oublier, d’une part, qu’il est le concepteur du robot et qu’il est ultimement le responsable de sa mise en oeuvre et de ses comportements, quelles que soient les délégations de pouvoir qu’il ait acceptées. Il se doit peut-être de réfléchir, d’autre part, au fait que son utilisation des robots ne peut conduire à sa propre négation ou à son complet effacement ainsi que de toute la richesse de la relation non médiatisée par la technologie.
Prise de responsabilité et refus d’une situation paradoxale dans laquelle l’homme se nierait dans l’acte même où il veut s’affirmer, se guérir ou s’augmenter, voilà les deux axes qui pourraient servir à guider une éthique de la robotisation des actes et des mondes médicaux.
5 J. Ellul, Le bluff technologique, Paris, Fayard, 2010 (Hachette, 1988), p. 281.
Footnotes
- parution dans la revue” Ethica Clinica”04-80 de décembre 2015 [↩]
