Roboética (ética de la robótica)


En mi juventud leí bastantes libros de ciencia ficción, y realmente es un género que me gustaba mucho. Aunque, dentro de este género, siempre he preferido los libros que se centran más en especular sobre cuestiones sociales (ciencia ficción social), que aquellos que dan más importancia al aspecto científico.

A día de hoy las tres leyes de la robótica que instauró Isaac Asimov, autor de la famosa “Trilogía de La Fundación”, son ampliamente conocidas, incluso por gente que en su vida ha leído un libro sobre el tema. Por ejemplo, aparecen en la película de ciencia ficción distópica “Yo, Robot” de 2004, protagonizada por Will Smith, basada en el libro del mismo título, y publicado en 1950, también del mismo autor. Como recordatorio, las tres leyes son las siguientes:

  1. Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño.
  2. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley.
  3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley

Y quién no recuerda al inquietante Hal de la película “2001: Una odisea del espacio”.

Lo que no imaginaba, y creo que tampoco aquellos de vosotros que también os guste el tema, es que ese futuro que nos planteaban las novelas, o algunas películas, iba a llegar tan pronto.

Por todo lo anterior, acudí a una charla titulada” Roboética. Nuevos consensos en la relación humano-robot” en la que participaban Carme Torres, Jefe de Investigación del Grupo de Percepción y Manipulación del Instituto de Robótica e Informática Industrial (CSIC-UPC) y Eduard Fosch, Investigador en el eLaw-Center for Law and Digital Technologies- Leiden University (Holanda).

En esa charla plantearon que realmente no nos hemos preparado lo suficiente para lo que va a venir. Hasta ahora las máquinas hacían aquello para lo que habían sido programadas, pero ahora piensan por si solas y hacen cosas para lo que no están programadas.

Carme Torres explicaba que ella conoce la vertiente tecnológica, científica. Nos comentaba que las tecnologías digitales han irrumpido en nuestras vidas y nos están modelando. Y deberíamos plantearnos qué modelo de sociedad queremos dejar, porque todo esto va a tener implicaciones sociales y éticas. Por este motivo, hace unos años surge la Roboética, para estudiar las consecuencias positivas y negativas que la tecnología va a tener en la industria y la sociedad. Pero es muy complicado hacer unos principios válidos. Hay que tener en cuenta que afecta a la industria, al mercado de trabajo, al mercado digital, y que son máquinas que aprenden de la experiencia y tomarán decisiones por nosotros. Por todo lo cual es muy importante elaborar una normativa e implementar unos estándares éticos. Es un tema que ya ha preocupado al Parlamento Europeo (en adelante P.E.), que ha elaborado una Propuesta sobre robótica e inteligencia artificial.

Eduard Fosch, por su parte, pensaba que la discusión sobre la I.A. a veces está alejada de las aplicaciones prácticas que ésta tiene. En ocasiones el Gobierno va por un lado y la industria va por otro. Hay muchos estándares regulados, pero en ocasiones no se prevén consecuencias si no se cumplen, y no son vinculantes. La propuesta del Parlamento no aclara cómo se aplican las normativas. Y en ocasiones la tecnología tropieza con cosas que no están previstas en la legislación.

En marzo de 2018 un vehículo autónomo de prueba de Uber atropelló a una ciclista porque detectó la bicicleta 1,2 segundos antes de la colisión, en lugar de los 4 segundos para los que estaba programado. Y el ser humano que debía controlar de forma remota el vehículo estaba distraído, por lo que tardó otro segundo más en frenar. ¿Quién o quiénes son los responsables?, ¿Uber, el ingeniero que ha diseñado el programa, el conductor remoto?, ¿en qué parte cada uno? En estos casos surge también la cuestión de quién asume la responsabilidad. En el actual ordenamiento jurídico los robots no pueden ser considerados responsables. Por otra parte, si el robot puede tomar decisiones autónomas, las normas tradicionales no sirven para causar responsabilidad jurídica.

El P.E. señala que una posible solución sería el establecimiento de un seguro obligatorio como ya se aplica, por ejemplo, en el caso de los automóviles. Este sistema de seguros para robots debería tener en cuenta todas las responsabilidades potenciales en la cadena. Este sistema se podría complementar con un fondo que garantizara la reparación de daños en los casos de ausencia de una cobertura de seguro.

Carme Torres insistía en que no estamos hablando de robots de cadenas de montajes, sino de robots que trabajan con personas y que debemos buscar garantías de que son seguros, e incluso se planteaba si habría que crear una especie de Derechos Humanos digitales.

Por su parte, el P.E. plantea que el marco de orientaciones éticas debe basarse, entre otros, en la Carta de Derechos Fundamentales de la Unión Europea, la dignidad humana, la igualdad, la justicia, el consentimiento informado, la protección de datos, así como otros principios y valores inherentes al Derecho de la Unión. No sólo eso, sino que además proponen un código de conducta ético para los ingenieros en robótica, un código deontológico para los comités de ética de la investigación, una licencia para los diseñadores y una licencia para los usuarios.

Eduard Fosch pensaba que en un futuro habrá testamentos digitales, porque si no se hacen, ¿qué pasa con los datos de todas esas personas fallecidas?. Y el problema es que Bruselas tarda tanto en legislar que cuando lo hace ya es tarde.

Según ambos, otro problema surge con el análisis de los datos. Programas que analizan millones de datos, dependiendo de cómo los apliquen, pueden dar lugar a discriminaciones. Por ejemplo, si se estudia la reincidencia de presos en EEUU, los negros podrían estar discriminados, o las minorías.

En 2018 Amazon presentó una herramienta experimental para la búsqueda de empleo, que seleccionaba los cinco perfiles más destacados para cada puesto, con ayuda de la Inteligencia artificial. Se trataba de ayudar a los equipos de recursos humanos y mecanizar la búsqueda de talento. Sin embargo lo tuvieron que desechar porque presentaba un sesgo contra de las mujeres. ¿Por qué?. Pues porque el algoritmo de Big Data de Amazon se había alimentado con una recopilación de curriculums con una mayoría de perfiles de hombres.

Una forma de evitar esto, en su opinión, sería que los datos fueran muy amplios para que no sean demasiado genéricos, sino que recojan todos los diferentes grupos de población. Pero esto puede chocar con la duda de si dar o no los datos, por la inquietud que nos provoca qué uso pueden hacer de ellos. Quizá la solución sea hacer algoritmos que anonimicen la persona, sobre todo en sanidad.

No sólo eso, el P.E. cree necesario integrar salvaguardas y la posibilidad de poder controlar y verificar estos procesos, por parte de las personas, así como acceder al código fuente, y a los datos de entrada y detalles de construcción de los robots autónomos que interactúan entre sí, cuando se considere necesario. Incluso cree que los robots deberían tener una especie de “caja negra” que registre los datos de todas las operaciones efectuadas por la máquina, incluidos, en su caso, los pasos lógicos que han conducido a la formulación de decisiones.

Ambos creen que es importante diferenciar los robots industriales de la robótica social, por su capacidad de interacción con el entorno y con las personas. Esta última puede ser una opción win-win (estrategia cuyo objetivo es que todas las partes salgan beneficiadas), cuando se aplica a cuidados a los pacientes, que adquieren más autonomía; pero por otro lado dejan de tener contacto con las personas que se encargaban de esos cuidados, por lo que puede aumentar la soledad. Aquí, también el P.E. manifiesta preocupación porque los robots se enfoquen a complementar las capacidades humanas y no a sustituirlas. Y pide prestar atención al posible desarrollo de vínculos emocionales entre seres humanos y robots, especialmente en colectivos vulnerables como niños, ancianos o personas con discapacidad.

La soledad es un problema que ya se está dando en una sociedad que cada vez está más conectada, pero cuya población se siente cada vez más sola. Recordaban la película HER, donde el protagonista, un hombre solitario, establece una relación peculiar con un nuevo sistema operativo diseñado para resolver todas las necesidades del usuario, y materializado en Samantha, una voz femenina encantadora. Al final nos encontramos que esa relación que nos parece única, y que para el protagonista lo es, es la misma que tiene el sistema con otros cientos de personas.

Un tema que merece especial atención es la aplicación de la robótica a la rehabilitación y la intervención en el cuerpo humano, dado que los robots médicos, y especialmente los sistemas ciberfísicos (SCF) pueden llevarse o implantarse en el cuerpo humano. Por eso en opinión del P.E. se deberían crear, con carácter de urgencia, comités de ética sobre robótica en los hospitales y otras instituciones sanitarias. Igualmente, en el ámbito de aplicaciones médicas vitales, como las prótesis robóticas, debería garantizarse el mantenimiento, la mejora, y las actualizaciones de software.

Por último, comentar que el Parlamento Europeo en su documento se plantea ¿qué es un robot inteligente?, y cree que debe establecerse una definición europea común teniendo en cuenta las siguientes características:

  •  la capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de datos con su entorno (interconectividad) y el análisis de dichos datos;
  •  la capacidad de aprender a través de la experiencia y la interacción;
  •  la forma del soporte físico del robot;
  •  la capacidad de adaptar su comportamiento y acciones al entorno.

Y considera que se debería crear un sistema global de registro de robots avanzados dentro del mercado común de la Unión, en los casos que sea pertinente para subcategorías específicas de robots. Tanto el sistema de registro, como el propio registro podrían ser gestionados por una agencia de la Unión, en el caso de que se decidiera crearla.

Os indico algunos links sobre el tema, y que he usado para el artículo.

B.C.

Dejar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *