Hola, queridos lectores. El estrés se llevó lo mejor de mí en este último mes, y por lo tanto, lo mejor de ustedes, que es este newsletter, por supuesto, yo sé que están de acuerdo. Ya en serio, agradezco ese estrés porque me indica que estoy 100% comprometida con el proyecto. Sus mensajes en respuesta a la edición pasada fueron muy alentadores y cariñosos y eso es algo que valoro y respeto profundamente y por eso quiero seguir mejorando.

Los temas de esta edición han sido mis obsesiones favoritas. Dilemas clásicos como el del tranvía, por siempre estudiado pero jamás desgastado, se usan hoy en un ámbito absolutamente nuevo y de repercusiones que ni siquiera los expertos logran predecir: el de las IA en general, y el de los vehículos autónomos en particular.

Pongamos que es 2030 y tienes un carro autónomo diseñado en California. Vas en tu carril, todo bien. De repente, tres personas se lanzan a la calle para cruzarla corriendo. No hay forma de evitarlas: o son ellas, o eres tú. Tú, claro está, no te enteras de nada porque estás viendo Batman XV mientras tu carro padece el dilema moral. Afortunadamente, fue programado para eso. El carro atropella a las tres personas. El seguro te cubre. No fue tu culpa, tú no tomaste la decisión.

¿O quizá, de alguna forma, sí?

Cambiemos el escenario. Mismo lugar, mismo año, otro carro: este es de diseño japonés. Tres personas cruzan la calle, tu carro computa, bip bop bup, y la última cosa que viste en tu corta pero hermosa vida es a Batman en su sótano. Tu carro se acaba de estampar contra un poste. Las tres personas llegaron a la otra acera.

¿Por qué la situación es distinta en Japón? ¿Es la IA? ¿Es cultural? ¿Todas las anteriores? ¿No sabe/no responde?

Estos ejemplos se inspiraron en un interesantísimo episodio de Radiolab, un podcast que explora lo que significa ser humanos desde la ciencia, la biología, la psicología y más. En el episodio Driverles Dilemma, entrevistan a un investigador en neurociencias que quiere visualizar qué pasa en nuestro cerebro cuando tomamos decisiones difíciles.

Los voluntarios aceptaron realizarse un MRI mientras respondían a distintas variantes del dilema del tranvía que les hacía el investigador. Dependiendo de cuán involucrado estaba física y emocionalmente el sujeto en la toma de la decisión, en su cerebro se activaban distintas partes. Lo curioso e increíble de este experimento es que los mismos escenarios activaban las mismas partes del cerebro en todos los voluntarios. Los únicos que mostraron una actividad cerebral diferente fueron los sociópatas y los… ¡monjes budistas! Ahí les dejo ese acertijo hasta mientras.

Lo que el experimento concluye es que la toma de decisiones no es tan espontánea y casual como creemos. Está, en cierto modo, programada por nuestra cultura. ¿Pero por qué asocio este experimento a los vehículos autónomos? Bueno, en realidad la asociación no la hago yo, sino el podcast (aspiro algún día a llegar al nivel de interdisciplinariedad hiperentretenida de Radiolab). El vínculo entre ambos es el concepto de programación. Las IA, como nuestro cerebro, son también programadas, y si cada vez entendemos mejor el funcionamiento del cerebro y de la mente, podremos hacer que las IA se parezcan más a nosotros. (¿Por qué? Me da un poco de miedo pensar en la resp-THE MATRIX).

Ahora salgamos del aséptico laboratorio y acerquémonos un poco más a nuestro bullicioso y cálido (hirviente) Guayas. El otro día desayunaba con mi hermana y no sé cómo pasamos de determinar el momento ideal para comer un croissant al tema de las máquinas expendedoras de NARCAN y jeringas, conocidas por sus siglas en inglés como SVM (syringe vending machines). Estas máquinas, presentes en Estados Unidos, Europa, Australia y Asia, dispensan kits gratuitos de emergencia para sobredosis de opioides (lo cual ha salvado muchas vidas).

Pero, principalmente, las SVM dispensan kits de jeringas y agujas limpias para que los consumidores de opiáceos puedan inyectarse sin riesgo de contraer enfermedades. En una inquietante entrevista de NPR, nos cuentan lo que un adicto, Brian (pseudónimo) opina de estas máquinas:

Con mi hermana tratábamos de entender qué tipo de mensaje le está enviando un país a sus ciudadanos al ofrecerles estas máquinas, y qué tipo de mensaje reciben los ciudadanos cuando ven aparecer estas máquinas en su barrio. Es una solución pragmática que te hace cuestionar tus valores. ¿Es una paradoja o un dilema ético?

En una paradoja están presentes al mismo tiempo dos verdades. Hay una que me encanta, que es "El Barco de Teseo". Esta fue planteada por el filósofo Plutarco. El héroe griego Teseo navega en un barco que lo ha acompañado en sus múltiples aventuras por los mares. El barco necesita ser reparado cada cierto tiempo, y cuando llega al astillero, van reemplazando las piezas viejas por una nueva hasta que llega un momento en que el barco no tiene ya ninguna de las piezas originales. Algunas preguntas del buen Plutarco son:

¿Sigue siendo el mismo barco de Teseo si todas sus partes han sido reemplazadas?

¿Si las piezas originales se guardan y luego son usadas para construir otro barco, sería entonces ese el "verdadero" barco de Teseo?

Jóvenes, hagamos una pausa para pensar bien estas preguntas. (Pero regresen, por favor, que esto sigue y se pone más interesante).

Ok, sigamos.

Los dilemas, a diferencia de las paradojas, no contienen dos verdades sino que nos presentan una disyuntiva. Nos hacen escoger entre dos opciones y ninguna parece ser mejor que la otra.

Personalmente, siento que el ejercicio mental que hacemos al enfrentarnos a un dilema o una paradoja es casi el mismo. La cultura que enmarca nuestras preguntas es un sistema de pensamiento predefinido, aunque no lo notemos. Es como un mall con cientos de tiendas: puedes escoger comprar en cualquiera de las tiendas, pero no puedes salir de un mall a otro.

Aquí es donde entra Elizabeth Mattis Namgyel, autora y maestra budista, con una propuesta  liberadora: no necesitamos elegir una respuesta, adoptar una postura y discutir sus repercusiones hasta el infinito. Ese infinito es abrumador, claustrofóbico y desgastante porque deseas "ganar" el debate, tener la razón, ser el primero en la fila. O sea, la nefalfa, perdón, la nefasta cultura del "alfa", esa obsesión por ser el primero a costa de quien sea o lo que sea. Lo que Mattis propone es que salgamos del mall. Que nos hagamos preguntas abiertas. Una mente que se hace preguntas abiertas asume las incertidumbres de otra manera. Valora el asombro, el maravillarse, la creatividad, nuestro sentido de aventura, porque no tendríamos nada de lo que tenemos si ya tuviéramos todas las respuestas que estamos buscando. Los grandes pensadores han sido, antes que nada, aventureros. Ese espíritu de asombro es lo que ella llama “la práctica de la pregunta abierta”.

En su libro The Power of an Open Question, Elizabeth dice:

Y esto que dice en su web me parece importantísimo, es una radiografía muy honesta sobre la realidad del mundo occidental. Nuestra cultura nos lleva a asumir que la apertura y la curiosidad son cualidades pasivas o superficiales y que la "verdadera" confianza se logra únicamente al sostener ideas definitivas. Sin embargo, si logramos evitar que nuestra mente se cierre, encontraremos protección frente al fundamentalismo, tendremos una mirada más profunda y aumentará nuestra capacidad para leer patrones, asimilar información vital y tomar decisiones que alineen nuestras acciones con nuestras intenciones.

Y es por eso que, en el podcast de Radiolab sobre los vehículos autónomos, cuando expusieron a los monjes budistas al dilema del tranvía, el fMRI mostró que no había en ellos un conflicto interno, no porque no sintieran el peso de su elección, como los sociópatas, sino porque su aproximación al dilema es ética e incluso neuronalmente distinta. Y eso me parece no solo más valiente que Teseo enfrentándose al Minotauro, sino más profundo que los océanos que cruzó en su barco.

Hay un libro sobre eso

Bueno, no es un libro precisamente, sino uno de los relatos más brillantes que he leído en mi vida: Los que abandonan Omelas. También ha sido traducido como Los que se alejan de Omelas. Su autora es Ursula K. LeGuin. No puedo ser imparcial con esta autora, lo confieso. Soy como una swiftie de UKLG. (Ya encontraremos una denominación para nuestro fandom, paciencia, geeks del planeta.)

Cuando lleguen al final de la historia, les pido que se pregunten esto, aunque sé que no hace falta pedirlo: el relato te lleva naturalmente allí. ¿Qué hubieras hecho tú? Y entenderás por qué Omelas ha sido usado miles de veces en clases, maestrías, doctorados de filosofía, leyes, sociología, psicología, narrativa y más. La pregunta te cautivará y atormentará por los siglos de los siglos. ¿Qué más se le puede pedir a una buena historia?

Hay una serie sobre eso

Vean The Good Place en Netflix. Todo es perfecto en esa serie. Nada más que decir. 

Género: Comedia. Ficción filosófica. Ficción distópica y utópica.

El prolífico Michael Schur, creador de la serie, no solo hizo una comedia perfecta, sino que investigó tanto el tema de la ética, que al final escribió un libro igual de brillante: How to Be Perfect: The Correct Answer to Every Moral Question.

Me despido con unas preguntas que me quedaron rondando tras la conversación con mi hermana sobre las máquinas expendedoras. Preguntas muy abiertas y muy difíciles. Y muy para ustedes, como regalo de Navidad.

¿Qué significa, en el fondo cuidar a alguien? ¿Cómo me hace sentir una solución que no encaja con mi ética, pero sí alivia el sufrimiento de otros? ¿Qué implica realmente ayudar?

Me encantaría leer sus opiniones y sobre todo, las preguntas que surjan en ustedes a partir de cualquier cosa que se haya dicho en esta correspondencia electrónica.

¡Muchas gracias por seguir aquí! Nos vemos pronto en una edición más light (o sea, menos intensa, siendo sinceros), pero no menos apasionada. Eso nunca. ¡Felices fiestas!

Denise

Fe de erratas:

Mi primo que vive en Francia y es psicoanalista (esto fue relevante para él cuando me hizo el comentario, pero no me acuerdo por qué), me indicó que en la primera edición del newsletter cometí el error de atribuir la Poética a Platón, cuando en realidad su autor fue Aristóteles. ¡Gracias, primo! Hay muchas historias de mi primo. Algún día les contaré cómo conquistó a mi chihuahua Morela, protagonista de múltiples dilemas morales de su autoría (la de mi primo, no la de mi Morelita). Si encuentran algún error en ésta o pasadas ediciones, recibo sus amables correcciones con una biografía adjunta y tendrán su merecido protagónico en esta sección.