En abril de este año, la serie británica Black Mirror estrenó su séptima temporada. Tal como lo hace desde el principio, vuelve a presentar, en capítulos independientes, futuros incómodos donde la tecnología transforma la vida cotidiana. Aquí, tres expertos desmenuzan las interrogantes que la obra deja sobre la inquietante relación que las personas podrían estar estableciendo con la tecnología. Alerta de spoiler.
Por: Lucía Figari
- ¿La tecnología puede controlar la acción moral de una persona?
El capítulo “Una Pareja Cualquiera” relata la historia de una profesora que, tras quedar en coma, es inscrita por su —desesperado— esposo en un sistema de alta tecnología, para mantenerla con vida. Donde gracias a esto, ella logra despertar, pero con una regulación por parte de la empresa que administra dicha biomedicina. Así, esta ficción muestra cómo “a través de neuroimplantes, los diseñadores pueden controlar la mente humana”, indica Sofia Salas, médico cirujano, diplomada en ética médica e integrante del departamento de Ética del Colegio Médico de Chile.
Si bien de acuerdo a la experta actualmente no existe tecnología médica capaz de controlar la acción moral de una persona en su totalidad, advierte que no sería sorprendente que en el futuro se alcance ese nivel de intervención.
Esta realidad representada en la ficción, sigue Salas, abre una interrogante ética, ya que quien porta el dispositivo podría ver reducida su autonomía moral frente a quien controla la tecnología.
“Cuando tienes a alguien como esta mujer, que se está muriendo, al marido no le queda otra que decir ‘ya intentemos’”, señala Salas, enfatizando en que la situación mostrada en la serie ocurre en un contexto extremo, donde la vida de una persona está en juego.
La doctora también critica la manera en que se presenta esta herramienta como una solución avanzada pero aún experimental, impulsada por una lógica comercial. “Es una mercantilización de una tecnología que es mostrada como innovadora, como de investigación todavía, pero como la última alternativa”, afirma. En este escenario, la salud es expuesta “como si fuera el mercado de la televisión por cable”, dice.
- ¿Cuán recíprocas son las relaciones con la IA?
El capítulo “Hotel Reverie” presenta la historia de una reconocida actriz que recibe la oportunidad de protagonizar el remake de un clásico del cine, a través de una experiencia inmersiva en realidad virtual. En esta simulación, la protagonista es enviada a otra dimensión, donde interactúa con réplicas digitales de los personajes originales, como si se tratara de un elenco resucitado mediante tecnología. La situación se complica cuando comienza a desarrollar sentimientos por uno de los seres virtuales.
Francisco Aboitiz, neurocientífico y director del Centro Interdisciplinario de Neurociencias NeuroUC, indica que la reciprocidad necesita respuestas emocionales proporcionales entre dos personas. Esa mutualidad desaparece cuando uno de ellos es una máquina. Esto, ya que estas no son capaces de sentir, por lo tanto, no se puede hablar de una relación en la que los sentimientos son mutuos.
Aboitiz explica que en casos como este las personas tenderían a proyectar emociones en estas figuras digitales, creyendo que responderían del mismo modo. “Se empieza a generar una reciprocidad con el algoritmo o con el personaje, donde la persona engancha y pone emociones en condiciones donde la otra parte no pone ni una emoción”, afirma.
Esta tendencia está relacionada con la llamada Teoría de la Mente, introducida formalmente por los investigadores estadounidenses David Premack y Guy Woodruff en 1978. En ella se describe nuestra capacidad innata de atribuir a otros creencias, deseos, intenciones y emociones, a pesar de no poder verlas directamente. Sin embargo, como señala Aboitiz, este mecanismo humano puede alterarse frente a máquinas o algoritmos: “Aquí hay una distorsión de un proceso que es natural en nosotros (…) en este caso es ilusoria y totalmente asimétrica la relación”.
El experto advierte que creer en una relación bidireccional con la IA puede abrir puertas a manipulaciones serias, ya sea por parte del propio sistema o de quien lo diseña. Por ello insiste que “no corresponde asignarle estos estados emocionales a ningún tipo de computador”.
- ¿Qué consideración moral le asignamos a la IA?
El capítulo “Juego” narra la historia de Cameron, un joven reservado y de pocas palabras, que desarrolla una obsesión con un videojuego de los 90. Su fascinación se centra especialmente en las criaturas digitales del juego, a las que comienza a percibir como seres sintientes. La conexión con estas lo lleva a cometer actos extremos, y llega a asesinar a su vecino, porque les habría causado daño.
Actualmente, al carecer de conciencia y sentimiento, la IA no posee estatus moral. Sin embargo, Daniela Alegría, doctora en filosofía, especializada en ética y filosofía moderna, advierte que en un futuro podrían surgir nuevos debates éticos respecto a cómo nos relacionamos con estas entidades, y si merecen algún tipo de consideración moral similar a la que atribuimos a personas o animales.
Alegría señala que la serie plantea preguntas como cuál es el estatus moral que le otorgamos a la IA, es decir, qué tipo de consideración ética merecen.
La experta explica que este dilema puede abordarse desde distintas corrientes filosóficas, y destaca dos enfoques principales. Por un lado, Immanuel Kant, filósofo alemán del siglo XVIII, sostiene que la razón práctica —la capacidad de actuar conforme a principios morales— es lo que confiere estatus moral a un ser. Por otro lado, Peter Singer, pensador contemporáneo australiano, plantea que esa condición depende de la capacidad de sentir placer y sufrimiento.
Desde la mirada de Singer, Alegría argumenta que, si se llegara a aceptar que estas criaturas digitales experimentan emociones o sufrimiento, entonces podrían entrar dentro del llamado “universo moral”. En ese caso, dice, “se tendría que tomar en cuenta sus intereses y respetarlos, e incluso pensar si es que tienen derechos”.
Lucía Figari (@luciafigaris) es estudiante de tercer año de periodismo en la @fcomuc.
Actualmente es editora de la revista @revistakmcero. Es su segunda vez publicando en este
medio.
0 comentarios