PublicacionesRed de Científicas Comunicadoras

Las tecnologías de la información se han instalado en nuestra cotidianidad y vehiculan cada vez más las relaciones laborales y personales

Se ha generado la inquietud de donde nos conducirá esta creciente interacción con máquinas, como sociedad y como individuos

CARME TORRAS | Artículo original

Considero preocupante la compartimentación del conocimiento y, en particular, que los jóvenes tengan que elegir demasiado pronto entre ciencias y letras, tecnología y humanidades. Por eso, me alegra ver que la universidad de Oxford ofrece un grado de Informática y Filosofía, o bien que la red global de universidades por la innovación (GUNI, por sus siglas inglesas) organiza el próximo noviembre un congreso sobre humanidades y educación superior, que lleva el sugestivo subtítulo de “Generando sinergias entre la ciencia, la tecnología y las humanidades“. Es una buena ocasión para reflexionar sobre este tema, ya que el congreso se celebrará en Barcelona y la Asociación Catalana de Universidades Públicas (ACUP) tiene un papel clave en ostentar la presidencia y la secretaría de la GUNI.

Ahora que las tecnologías de la información se han instalado en nuestra cotidianidad y vehiculan cada vez más las relaciones laborales y personales, se ha generado la inquietud de donde nos conducirá esta creciente interacción con máquinas, como sociedad y como individuos. En mi ámbito de investigación -robótica e inteligencia artificial-, ya hace tiempo que la comunidad científica ha tomado conciencia de que había que acercarse a las humanidades para debatir cuestiones de este tipo. En el congreso mundial de robótica, por ejemplo, se incluyen foros y sesiones donde se invita a filósofos, sociólogos, psicólogos, abogados, cineastas y escritores a reflexionar, conjuntamente con los investigadores asistentes al congreso, sobre las implicaciones sociales y éticas de los robots que se están desarrollando.

Una nueva disciplina

En este contexto ha surgido una nueva disciplina, la roboética: subcampo de la ética aplicada que estudia las implicaciones positivas y negativas de la robótica para los individuos y la sociedad, con el fin de inspirar el diseño de los llamados robots inteligentes / autónomos y evitar su mal uso contra la humanidad. Se contemplan tres líneas de importancia o urgencia decreciente: adaptar la ética humana a la robóticaincrustar un código moral en los robots mismos, y pensar qué ética surgiría de una posible conciencia futura de los robots. Los cerca de siete años de existencia de esta disciplina comienzan a dar frutos, y se han puesto en marcha numerosas iniciativas en dos grandes áreas: la regulación legal y la educación ética.

En cuanto a la regulación, instituciones como el Parlamento Europeo, el South Korean Robot Ethics Charter, la IEEE Standards Association o la Standards Institution de Gran Bretaña están elaborando normativas y estándares para los diseñadores, programadores, y usuarios de robots. La vía de la educación ética es de amplio espectro y abarca desde textos para estudiantes de secundaria hasta materiales online para formación de opinión pública, pasando por cursos para la actualización de los profesionales y, sobre todo, libros y artículos para docencia universitaria. Asociaciones tan prestigiosas como el Institute of Electrical and Electronics Engineers (IEEE) y la Association for Computing Machinery (ACM) incluyen en los planes de estudios para las carreras de ingeniería e informática una asignatura de ética aplicada a la tecnología, que incluye temas de roboética.

Debate ético

Los aspectos más debatidos son los que afectan a los ámbitos militar y médico, junto con los de privacidad, responsabilidad legal y fractura digital. Con el auge de la robótica asistencial, comienzan a tratarse también cuestiones de tipo afectivo y psicológico, como que un enfermo podría creer que el robot que lo cuida se preocupa realmente por su bienestar y delegarle todas las decisiones, o un niño podría pensar que su compañero robótico es un verdadero amigo y, al prescindir del contacto con otros niños, no desarrollar la capacidad de empatía.

Como es prácticamente imposible predecir, de manera fundamentada, la evolución de una sociedad tecnificada, cuando se intenta establecer un debate ético o impartir un curso a menudo se recurre a la ciencia ficción, a fin de discutir los pros y contras de diferentes escenarios futuros posibles. Algunos de los temas abordados en las obras clásicas de Asimov, Dick o Bradbury, como las tres leyes de la robótica, las niñeras mecánicas o las réplicas humanoides, han cobrado actualidad con el desarrollo de los robots asistenciales. También películas y series recientes permiten debatir temas de roboética y son utilizadas en cursos, tanto en línea como presenciales. Quisiera destacar la serie Real Humans, la novela The wind-up girl, y la película Robot and Frank, que merece una mención especial por su realismo y valor pedagógico, y ha servido de base para un curso en línea de Teaching with movies, entre otros.

Introducción en las aulas

En el terreno de la docencia universitaria, mi novela “La mutación sentimental” ha sido traducida al inglés con el título “The Vestigial Heart” y publicada recientemente por MIT Press junto con unos materiales éticos para impartir un curso sobre “Ética en Robótica Social e Inteligencia Artificial “. Se plantean 24 preguntas y se apuntan posibles respuestas basadas en escenas de la novela, que trata de una sociedad futura en la que cada persona tiene su asistente robótico y donde recobra la vida una adolescente de nuestra época a quien criogenizaron porque sufría una enfermedad incurable. El conflicto con los humanos futuros que han sido criados por niñeras artificiales, han aprendido de maestros robóticos y comparten trabajo y ocio con humanoides está servido.

En definitiva, la creciente interacción con todo tipo de programas y máquinas en la vida cotidiana está propiciando una confluencia de la investigación informática y robótica con las humanidades, que sería deseable ver extendida a otros ámbitos educativos.

La autora de este artículo forma parte de la Red de Científicas Comunicadoras.