Robótica y sistemas autónomos Volumen 86, diciembre de 2016, páginas 152-161 Robótica y sistemas autónomos Ética de la robótica sanitaria: hacia una investigación e innovación responsables.

Resumen

¿Cómo podemos identificar, comprender y tratar mejor los problemas éticos y sociales planteados por la robótica de la salud? Este artículo argumenta que, además del análisis ético, la evaluación de la tecnología clásica y la especulación filosófica, necesitamos formas de reflexión, diálogo y experimento que, literalmente, se acerquen mucho más a las prácticas de innovación y los contextos de uso. Los autores discuten varias formas de lograrlo. Informado por su experiencia con la ética "integrada" en proyectos técnicos y con varias herramientas y métodos de investigación e innovación responsables, el documento identifica formas "internas" y "externas" de investigación e innovación dialógica, reflexiones sobre las posibilidades y limitaciones de estas formas de innovación ético-tecnológica, y explora varias formas de cómo pueden ser respaldadas por políticas a nivel nacional y supranacional.

Respondiendo a lo que se considera el futuro cercano de la atención médica, los especialistas en ética se han preocupado especialmente por lo que se supone que es la perspectiva de robots inteligentes, autónomos y, a menudo, también humanoides que cuidan a los ancianos. Las preguntas abordadas incluyen: ¿Los robots reemplazarán a las enfermeras y otros cuidadores, dejando a los enfermos y ancianos en manos de las máquinas? ¿Podrían los robots brindar la misma calidad de atención? ¿Pueden las máquinas brindar el cuidado "cálido" y "humano" que parece esperar de los cuidadores humanos? ¿Los robots utilizados en el cuidado engañan a las personas vulnerables cuando ellos (los robots) "fingen" ser algo más de lo que son, por ejemplo, cuando aparecen como mascotas?

 
2.1. Preocupaciones éticas

Aquí hay algunos problemas éticos y sociales y discusiones filosóficas que identificamos como centrales. Esta subsección no pretende ser exhaustiva; se entiende como una herramienta pragmática y heurística para obtener una visión general, antes de comenzar el desarrollo de los principales argumentos de este artículo. Primero, hay evaluaciones críticas de las visiones de la tecnología de la salud en términos de sus implicaciones para la sociedad y la salud, por ejemplo:

• Reemplazo y sus implicaciones para la mano de obra:

¿Se introducen robots para resolver problemas en la atención médica y el cuidado de ancianos, o se introducen para ahorrar dinero al reemplazar a los cuidadores humanos por robots y para ayudar a la investigación y la industria de la robótica?
Por ejemplo, en la investigación sobre el desarrollo de robots para ancianos, los robots a menudo se presentan como una respuesta a los desafíos demográficos. Pero, ¿son tales soluciones tecnológicas la principal o única forma en que debemos abordar estos desafíos? Y si existe la verdad en la sospecha de que los robots reemplazarán a los humanos, ¿qué problemas resolverían exactamente, y la robótica es realmente una amenaza para el empleo? En términos más generales, ¿cuáles son las consecuencias para el trabajo sanitario? Por ejemplo, ¿los robots y las TIC amenazan la "artesanía del cuidado" ?

• Reemplazo y sus implicaciones para la calidad de la atención: deshumanización y atención "en frío".

Un temor importante en las discusiones sobre los robots en el cuidado de la salud es que los robots pueden reemplazar a los cuidadores humanos, y que esto no solo puede dejar a estas personas sin trabajo, sino también eliminar la capacidad de atención "cálida" y "humana" del proceso de atención. Es muy dudoso, por ejemplo, si los robots pudieran ser empáticos o tener emociones.

Los robots, al parecer, no son capaces de prestar un tipo de atención y atención "humana", mientras que la atención médica parece involucrar más que algunos "comportamientos"; Los humanos tienen diversas necesidades sociales y emocionales, que no se satisfacen necesariamente dándoles un robot. El “cuidado de la máquina” suena frío y mecánico. Existe la preocupación de que las personas mayores sean abandonadas, entregadas a robots sin contacto humano. En términos más generales, ¿las máquinas bajo cuidado "objetivan" los receptores de cuidados? ¿Objetivan a los cuidadores (ver también el punto anterior)? ¿Qué queremos decir con buena atención médica? ¿Tenemos una buena atención médica hoy, sin siquiera considerar los robots?
¿Es posible una buena atención en el contexto de la modernidad? En segundo lugar, hay problemas que tienen menos que ver con la idea de reemplazo como tal, pero que surgen por la interacción humano-robot en la atención médica y especialmente por el robot que asume las tareas de los humanos, por ejemplo:

• Autonomía.

No todos los robots de atención médica son robots autónomos. Por ejemplo, los robots quirúrgicos son controlados a distancia por el cirujano. Sin embargo, la investigación en atención médica a menudo tiene como objetivo dar más autonomía al robot. Un término importante en el campo, por ejemplo, es sistemas autónomos (ver también el título de esta revista). La autonomía significa aquí que el robot está diseñado para llevar a cabo tareas sin asistencia y guía humana continua, preferiblemente en un entorno no estructurado. Este desarrollo podría conducir a un escenario futuro en el que los robots reemplazarían a los trabajadores de cuidado humano, por ejemplo, si los robots de cuidado se hacen cargo del trabajo de la enfermera humana. Como se indicó anteriormente, esto es éticamente problemático. Pero incluso si los robots en el cuidado de la salud no reemplazaran por completo a los trabajadores de cuidado humano, todavía queda la cuestión de cuán autónomo (en el sentido de realizar tareas por sí mismo, sin ayuda de humanos), el robot sería y debería ser en el contexto de la interacción y el cuidado y cuán autónomo debería ser en el sentido de operar sin supervisión humana. Por ejemplo, si se usan robots en la terapia para niños, ¿se debe supervisar el robot (y si es así, de qué manera) y qué exactamente y cuánto debería hacer sin intervención humana directa? 

• Rol y tareas.

Relacionado con el punto anterior está la pregunta sobre el papel del robot en el proceso de cuidado particular. Incluso si los humanos siguen siendo parte del proceso de cuidado, ¿cuál debe ser exactamente el rol del robot (y el rol del humano)? ¿Qué tareas pueden y deben delegarse a los robots? Y en general: ¿deberían ayudar o hacerse cargo de las tareas humanas? ¿Cuándo y dónde deberían hacer qué?

• Agencia moral.

Los robots no parecen tener la capacidad de razonamiento moral o, más generalmente, de lidiar con situaciones éticamente problemáticas. Por lo tanto, cuando surge un problema moral dentro de la interacción humano-robot y dentro de la situación del cuidado de la salud, parece haber un problema: al robot se le da (más) autonomía, en el sentido de realizar tareas por sí mismo sin intervención humana, pero no parece tener la capacidad de agencia moral: puede hacer todo tipo de cosas, pero a diferencia de los humanos, no tiene la capacidad de reflexionar sobre la calidad ética de lo que hace. Por lo tanto, algunos filósofos proponen desarrollar una capacidad de razonamiento ético, mientras que otros filósofos niegan que esto sea posible o piensan que es insuficiente para tratar cuestiones éticas complejas en la atención médica. Por otro lado, tal vez la falta de agencia moral del robot no sea un problema mientras los humanos estén involucrados e incluidos en el proceso. Nuevamente se plantean los problemas de autonomía y rol.

 • Responsabilidad. 

Este tema plantea nuevamente la cuestión con respecto a la autonomía y el papel del robot y el humano y, más en general, con respecto a las relaciones humano-tecnología. ¿Cómo la introducción de robots (re) da forma a las responsabilidades éticas? Si el robot se hace cargo de las tareas humanas, ¿quién es responsable de estas tareas? ¿Cuál debería ser la nueva distribución de responsabilidad, cuando los robots se hacen cargo de algunas tareas? ¿Significa que los humanos siguen siendo responsables (asumiendo que los robots no pueden ser moralmente responsables), y si es así, cómo pueden ejercer esta responsabilidad si no tienen control directo sobre el robot (si no intervienen continuamente) o incluso no supervisan el ¿robot?

• Engaño.

Si los robots se usan como compañeros "sociales" y se les asignan otras funciones que fomentan la participación social y emocional de los humanos (por ejemplo, personas mayores o niños), ¿no es esto un caso de engaño? De ser así, ¿es justificable este engaño?

• Confiar. 

En la medida en que el robot actúa de forma autónoma y los cuidadores humanos se retiran del proceso de atención (al menos en cierta medida), ¿se puede "confiar" en el robot o este término no es aplicable a los robots ? ¿Deberíamos hablar solo de confiabilidad? ¿O los robots "sociales" plantean la cuestión de la confianza? ¿Deberíamos "confiar" en dar a los pacientes, ancianos y niños "en manos del robot"? En tercer lugar, hay problemas que surgen por muchas (investigación y usos de) las TIC y por muchas tecnologías que involucran a usuarios humanos, en particular:


• Privacidad y protección de datos:

la investigación de robótica y el uso de robots en el cuidado de la salud plantean preguntas sobre qué datos se recopilan, cómo se almacenan, quién tiene acceso a ellos, quién los posee, qué les sucede, etc.

• Seguridad y evitación de daños.

Los robots no deberían dañar a las personas y ser seguros para trabajar con ellos. Este punto es especialmente importante en la atención médica y los dominios relacionados, ya que a menudo involucra a personas vulnerables como personas enfermas, personas mayores y niños.

Tenga en cuenta que, en general, los investigadores en el campo de la robótica del cuidado de la salud son muy conscientes de los últimos problemas (privacidad y protección de datos y seguridad) y, por lo general, toman medidas para evitar estos problemas éticos.
Por ejemplo, al desarrollar su robot de cuidado Fischinger et al. escriba que su robot no debe seguir al usuario todo el tiempo (por ejemplo, al baño) por razones de privacidad y diga que su objetivo principal es proporcionar a los adultos mayores la sensación de seguridad. Si las medidas tomadas son o no suficientes para garantizar la privacidad y la seguridad es (y debería ser), por supuesto, abierto a discusión.


También ha habido varios enfoques normativos y teóricos sobre la ética de la robótica de la salud, que van desde la ética kantiana y el utilitarismo hasta la fenomenología, la teoría crítica y la ética de la atención. Cada uno de estos enfoques ha ayudado a resaltar sensibilidades morales diferentes pero a menudo convergentes en esta área, y a veces también han contribuido a una mejor comprensión de las prácticas actuales de atención médica, lo cual es vital si queremos pensar en un mejor futuro de la atención médica. En términos más generales, la ética de la robótica y la filosofía de la robótica es un área creciente de investigación y erudición que atrae a excelentes personas de diversos orígenes académicos, y se está consolidando en un (sub) campo sólido propio, incluso si permanece firmemente conectado a la computadora ética, filosofía de la tecnología y áreas relacionadas. Los investigadores en robótica, clínicos y (otras) partes interesadas pueden aprender de este trabajo filosófico y usarlo para guiar sus esfuerzos para mejorar las tecnologías y prácticas, y de hecho para dar forma al futuro de la atención médica. Incluso si se pudiera considerar que algunos experimentos mentales o escenarios pertenecen al ámbito de la "ciencia ficción", pueden ayudarnos a pensar en nuestros valores y en el futuro de la robótica y la atención médica que queremos.
Por ejemplo, Coeckelbergh ha escrito un escenario ficticio sobre un perro robótico para explorar cómo las TIC y los robots pueden reconfigurar las capacidades de las personas mayores para la afiliación social y el compromiso en las relaciones con otros humanos y no humanos.

...

Espero que esta breve introducción haya servido de iniciador de conversación para un tema tan pertinente que es el entrenamiento de la ética, la filosofía y la espiritualidad en los robohumanoides que vengan.

Agustín Borrazás 

15/6/20