Dr. Manuel Luis Martí.
Academia Nacional de Medicina de Buenos Aires.
Las amenazas de la humanidad
no son las máquinas, son los
hombres.
Raúl Rojas .
Dentro de la ola de progreso tecnológico de los últimos tiempos sobresale con luz propia la de la Inteligencia Artificial (IA) como la mayor revolución tecnológica del siglo XXI.
El primer indicio aparece a fines de los años cincuenta con el matemático inglés Alan Turing, pero el concepto principal es de John McCarthy en 1956, que define a la IA como “la ciencia y la ingeniería para fabricar máquinas inteligentes, en especial programas informáticos inteligentes”, todo en base a una “arquitectura algorítmica”, que está cambiando el quehacer humano en todos los ámbitos.
La capacidad de la IA es la de ayudar a los seres humanos a superar las barreras del conocimiento con una potencialidad difícil de imaginar, por lo cual es mandatorio su empleo ético y responsable que se debe enfocar hacia la dignidad humana, los derechos humanos, la igualdad de género, la inclusión, la justicia social, el bienestar físico y mental, la diversidad cultural y la protección del ambiente. Estos valores son los recomendados por la UNESCO en 2022, entre los que se incluyen la salud y el bienestar social.
Para cumplir con estos postulados será necesario:
-Impartir al público conocimientos adecuados en materia de IA
-Alentar la investigación sobre el uso de la IA en la educación
-Alentar la formación ética de los investigadores en IA
-Promover y apoyar las investigaciones en IA.
La empresa Google, por su parte, elaboró una serie de principios para el uso de la IA entre los que sobresalen: el beneficio social, evitar la creación o el refuerzo de prejuicios y sesgos, seguridad completa, cuidado de las personas y de su privacidad.
El mayor campo de investigación de la IA reposa en la medicina.
En medicina la IA es una promesa de revolución en el cuidado de la salud tanto para el diagnóstico, la toma de decisiones terapéuticas, la predicción de resultados y la seguridad del paciente.
Se hace necesario la implementación de redes enfocadas en la efectividad clínica, la seguridad y la justicia. Los ítem de mayor importancia son la eficacia y la seguridad, que deberían ser regulados; la IA debe ser usada en forma responsable y es necesario desarrollar una cultura ética a lo largo de toda la organización.
Pellegrino subraya que las conclusiones técnicamente correctas no necesariamente responden al mejor interés del paciente, que se debe respetar el derecho de autonomía y que los riesgos particulares inherentes al uso de la IA deben ser expuestos.
Al haber tantos factores involucrados en la utilización de la IA la responsabilidad de sus efectos es difícil de determinar aunque es el profesional quien responde en última instancia; lo lógico sería una responsabilidad compartida ya que el médico está utilizando estructuras de las que no es responsable en su producción
En los últimos tiempos conceptos básicos de la medicina han experimentado cambios substanciales como, por ejemplo, los criterios de normalidad que fueron reemplazados por los criterios predictivos; este enfoque se denomina “Medicina 4P”, que propone que la medicina debe ser:
-Preventiva
-Participativa
-Predictiva y
-Personalizada.
Estos criterios deben ser tomados en cuenta para el desarrollo de la IA.
En 2019, la Comisión Europea estableció tres principios fundamentales destinados a asegurar el desarrollo confiable de la IA en el campo de la
Medicina:
1º) Desarrollar, implementar y utilizar la IA con un propósito ético donde prevalezcan los derechos, los valores sociales y los principios éticos de hacer el bien.
2º) Proporcionar especial atención a las condiciones que involucran a los grupos más vulnerables, tal como los niños, las personas con discapacidades y las minorías.
3º) Perseverar y estar atento a las áreas de preocupación crítica, ya que la IA puede tener un impacto negativo cuando es empleada.
Se debe recordar que la IA no está dedicada a reemplazar la atención médica humana y la toma de decisiones clínicas, sino que las complementa y mejora, para lo cual debe existir un aprendizaje y una supervisión y control humano, esencial para garantizar la seguridad del paciente y la calidad de la atención médica.
La IA debe propiciar la extensión de las capacidades humanas teniendo presente las implicancias negativas que pueden surgir con su empleo.
Un riesgo de la IA que se debe tener en cuenta en medicina es el del “embrutecimiento” del médico, cuya actividad pueda descansar en la máquina sin utilizar su inteligencia, por lo cual una idea fundamental de la enseñanza es que la IA debe apoyar el proceso de aprendizaje sin reducir las capacidades cognitivas.
Enrico Fermi vaticinó que cuando la tecnología va más rápido que la razón, la vida inteligente se destruye a sí misma.
Los desarrollos de la IA están cada vez más presentes: Hay un sistema Sugar.IQ, para la diabetes; el Migraine.AI, para la jaqueca, entre otros;
El MIT creó un algoritmo para el diagnóstico y el seguimiento del melanoma.
En medicina ya se está empleando un producto de la IA: los robots, en
1983 se creó en Vancouver, Canadá, el primer robot quirúrgico, “Arthrobot”; en 1985 se desarrolló el PUMA 500, para biopsia cerebral;
En 1988, el “Probot”, para cirugía prostática; recién en 1994 aprobó un robot para cirugía; en 1997 se realizó la primera colecistectomía robótica, en Bélgica; en 1999 apareció el robot “Da Vinci”, el más conocido, con más de cuatro mil ejemplares en el mundo.
Pero la idea del autómata ya está en el Antiguo Testamento y en la tradición hebrea con el Golem. Herón de Alejandría ya menciona asimismo a las autómatas
La robótica permite también la cirugía laparoscópica y, en los últimos tiempos se han creado robots capaces de realizar acciones muy complejas e integrar redes neuronales..
El último adelanto son los nanorobots, que se pueden inyectar en el cuerpo y llevar medicamentos a distintos órganos.
Se debe recordar asimismo que entre 2000 y 2013 murieron en los Estados Unidos 144 por negligencia de los robots
Los robots son máquinas que piensan como humanos, racionalmente, con capacidad para ejecutar funciones que realizadas por humanos requieren inteligencia y habilidades.
El robot al tener capacidad de aprendizaje puede adquirir conductas difíciles de prever.
La pregunta es: ¿Un robot, puede tener ética? En principio parecería difícil de determinar, pero tendrá que ver en cómo se lo programa, aunque no se puede asegurar con absoluta certeza su conducta ética.
El robot no es una persona, es un instrumento, por lo tanto la conducta ética pertenece a quienes lo utilizan.
Ya en 1941, Isaac Asimov enunció las leyes de la robótica:
-Un robot no herirá a un ser humano o, por inacción, permitirá que un ser humano sea dañado.
-Un robot debe obedecer las órdenes dadas por un ser humano, excepto cuando estén en conflicto con la primera ley.
-Un robot debe proteger su propia existencia, siempre y cuando esa protección no entre en conflicto con las leyes primera y segunda.
-Un robot no dañará a la humanidad o, por inacción, permitirá que esta sea dañada.
De todas formas el uso de los robots abre una gama de inciertas consecuencias que deben ser regidas por la bioética, desde la protección de la vida humana a determinar los niveles de responsabilidad de cada uno de los actores.
La máquina hará lo que se le indique pero al tener inteligencia puede determinar hechos inesperados, como ya ha ocurrido.
Las indicaciones deben abarcar a todos los factores involucrados.
La IA se ha convertido en el instrumento de mayor trascendencia en la transformación de la sociedad y su empleo en medicina abre amplios horizontes hacia los avances científicos y los sistemas de salud.
Muchos de los instrumentos que utiliza la IA son complejos y de resultados imprevistos por lo cual su implementación debe ser cuidadosa.
Por su repercusión en las personas es necesario que se tengan en cuenta los principios éticos, la seguridad y la protección de los datos personales, ya que su aplicación presenta desafíos que pueden ocasionar efectos no deseados.
En el capítulo de las decisiones clínicas, la IA puede ser de gran utilidad al obviar errores de criterio manejando la interpretación de los datos.
En el tratamiento de las enfermedades crónicas permite descubrir datos tempranos de su evolución y mejorar el tratamiento y el pronóstico.
El uso de datos de los enfermos requiere su consentimiento y los sistemas en uso deben ser explicados con claridad en sus facetas positivas y negativas teniendo en cuenta los principios de no maleficencia y de autonomía.
La IA presenta un potencial que obliga a una cuidadosa implementación, como todo nuevo avance tecnológico podrá tener cualidades y defectos desconocidos.
Neira, de la Academia Nacional de Medicina de Buenos Aires, señala que “…estos conceptos ( sobre la IA en Medicina) deben obligar al debate ético de la implementación de las ventajas de la IA mediante una implementación progresiva, ética y equitativa para lograr el bienestar de toda la comunidad global… asegurando la regulación por parte del estado que proteja a los usuarios en cuanto a su privacidad y seguridad”
Es de esperar que el empleo de la IA esté guiado por la inteligencia humana, por la ética y el buen sentido.
BIBLIOGRAFÍA
- AVILA-TOMAS, JF, MAYER PUJADAS, MA, QUESADA URREL, VJ
La IA y sus aplicaciones en medicina II
Atención Primaria (Barcelona) 2021; 53: 81-88.
- BELDA REIG, I.
La IA. De los circuitos al conocimiento.
Ed. Editec, Navarra, 2017
- CHAMBA CUADROS, JE.
Desafíos bioéticos en la formación médica en la era de la IA
Revista San Gregorio 2024; 1: Nº 57
- DE DIEGO, JA.
Las tecnologías exponenciales y la IA como transformadores del trabajo humano,
En Solanet, MA, Martí, ML. op. cit. Nª 14
- MARTINO, AA.
Las tecnologías inteligentes: Múltiples aspectos de su impacto.
En Solanet MA, Martí ML op. cit nº 14
- MAYER, MA.
IA en atención primaria: un escenario de oportunidades y desafíos.
Atención Primaria 2023, 55: (11) 102744
- NEIRA, JA.
IA aplicada a la medicina
En Solanet MA, Martí ML. op cit nº 14
- ORGANIZACIÓN DE LAS NACIONES UNIDAS PARA LA EDUCACION, LA CIENCIA Y LA CULTURA. 2019
Estudio preliminar sobre los aspectos técnico y jurídicos relativos a la conveniencia de disponer de un instrumento normativo de la Etica de la IA. Paris. https:/unesdoc.unesco.org/ark
- ORG 2022, UNESCO.
Recomendación sobre la Ética de la IA. Paris.
https:/undesdoc.unesco.org/ark
- PELLEGRINO, ED.
Toward a virtue- based normative ethics for the health professions.
Kennedy Institute of Ethics Journal 1995; 5: 253-277
11.PALADINO, MS.
IA en medicina. Reflexiones éticas desde el pensamiento de
Edmund Pellegrino.
Cuadernos de Bioética 2023;34:25-35
12.REYES VASQUEZ, PA.
Etica de la IA. Recomendación de la UNESCO Noviembre 2021
Compendium 2023;26:nº 50:1317
13.RUIZ ,RB, VELASQUEZ JD.
IA al servicio de la salud del futuro.
Revista Médica de la Clínica Las Condes (Chile)2023;34:84-91
14. SOLANET MA, MARTI, ML.
Inteligencia artificial: una mirada multidisciplinaria.
Ed. Prosa, Buenos Aires, 2021
15.TRAUSAN-MATUS
Ethics in Artificial intelligence.
Intern.J of user-system interaccion.2020;13:136-148
