Framers
TURNER NOEMA
Framers La virtud humana en la era digital KENNETH CUKIER VIKTOR MAYER-SCHÖNBERGER FRANCIS DE VÉRICOURT
TRADUCCIÓN DE MARTA DE BRU DE SALA
Título: Framers. La virtud humana en la era digital © Kenneth Cukier, Viktor Mayer-Schönberger y Francis de Véricourt, 2021 Edición original: Framers. Human Advantage in an Age of technology and Turmoil, by Kenneth Cukier, Viktor Mayer-Schönberger, and Francis de Véricourt All rights reserved including the right of reproduction in whole or in part in any form. This edition is published by arrangement with Dutton, an imprint of Penguin Publishing Group, a division of Penguin Random House LLC De esta edición: © Turner Publicaciones SL, 2021 Diego de León, 30 28006 Madrid www.turnerlibros.com Primera edición: octubre de 2021 De la traducción: © Marta de Bru de Sala, 2021 Diseño de la colección: Enric Satué Ilustración de cubierta: Diseño TURNER Cualquier forma de reproducción, distribución, comunicación pública o transformación de esta obra solo puede ser realizada con la autorización de sus titulares, salvo excepción prevista por la ley. Diríjase a CEDRO (Centro Español de Derechos Reprográficos) si necesita fotocopiar o escanear algún fragmento de esta obra (www.conlicencia.com; 91 702 19 70 / 93 272 04 45). ISBN: 978-84-18428-81-4 DL: M-20305-2021 Impreso en España La editorial agradece todos los comentarios y observaciones: turner@turnerlibros.com
A mi esposa Heather K. N. C. A Hans Kraus V. M.-S. En memoria de Hervé Raynaud F. V.
Ya que siempre hay luz, si somos lo bastante valientes para verla, si somos lo bastante valientes para personificarla. amanda gorman, 20 de enero de 20211
ÍNDICE
i Decisiones ii La capacidad de enmarcar iii Causalidad iv Contrafactualidad v Límites vi Reenmarcar vii Aprender viii Pluralismo ix Vigilancia
11 35 63 87 111 137 163 189 217
Una guía para trabajar con marcos 237 Agradecimientos 241 Notas 245 Índice onomástico y de contenidos 285
i DECISIONES El poder de la humanidad no proviene ni de los músculos ni de la mente, sino de los modelos
A
lgunas amenazas son repentinas e inesperadas. Otras llegan más despacio y se van cociendo a fuego lento. Pero todas son un punto ciego cognitivo para el cual la sociedad no está preparada. Tanto si se trata de pandemias o de populismos, de nuevas armas o de nuevas tecnologías, del calentamiento global o de las enormes desigualdades, lo que marca la diferencia entre la supervivencia y la extinción es la respuesta de la humanidad. Y nuestras acciones dependen de lo que visualicemos. Cada año mueren más de setecientas mil personas en todo el mundo debido a infecciones que antaño podíamos curar con antibióticos, pero que actualmente no reaccionan al tratamiento. Las bacterias han desarrollado resistencia a los fármacos.1 El número de muertes está aumentando rápidamente. A menos que encontremos alguna solución vamos camino de los diez millones de muertos al año o, dicho de otro modo, de una muerte cada tres segundos.2 Incluso la tragedia del COVID-19 palidece en comparación con estas cifras. Además, se trata de un problema provocado por nuestra sociedad. Los antibióticos son cada vez menos efectivos porque los hemos utilizado en exceso: el mismo fármaco que antaño era capaz de contrarrestar las bacterias ha acabado convirtiéndolas en superbacterias. Vivimos en un mundo en el que damos por hecho la existencia de los antibióticos, pero antes de que se descubriera la penicilina en 1928 y se empezara a producir en masa más de una década después, la gente moría habitualmente por culpa de un hueso roto o de un simple rasguño. En 1924, al hijo de dieciséis años del presidente estadounidense Calvin Coolidge le salió una ampolla en un dedo del pie mientras estaba jugando al tenis en el césped de la Casa Blanca.3 Se le infectó y acabó muriendo aquella misma semana, ni su posición social ni su fortuna 11
framers
consiguieron salvarlo. Hoy en día casi todos los procedimientos mé‑ dicos dependen de los antibióticos, desde las cesáreas hasta las cirugías cosméticas, pasando por la quimioterapia. Si su efecto sigue disminuyendo, todos estos procedimientos serán mucho más peligrosos. Desde su colorida oficina repleta de plantas en Cambridge, Mas sachusetts, Regina Barzilay, una profesora de inteligencia artificial (IA) del MIT, esbozó una solución. Normalmente el desarrollo de medi‑ camentos se centra en encontrar sustancias con una “huella” molecular similar a las que ya sabemos que funcionan. En general este método suele dar buenos resultados, pero no en el caso de los antibióticos. Ya se han examinado la mayoría de las sustancias con una composición similar, pero debido a que estos nuevos antibióticos tienen una estructura tan parecida a la de los antibióticos vigentes las bacterias enseguida desarrollan resistencia. Por ese motivo Barzilay, junto con un equipo diverso compuesto por biólogos e informáticos dirigido por Jim Collins, un profesor de bioingeniería del MIT, adoptó un método alternativo. ¿Y si en vez de buscar sustancias con similitudes estructurales se centrasen en encontrar las que logran el efecto deseado, es decir, matar bacterias? Replantearon el problema no desde una perspectiva biológica, sino de datos. Barzilay, carismática y segura de sí misma, no parece la típica cerebrito, pero ya está acostumbrada a desafiar las categorías establecidas. Creció hablando ruso bajo el régimen comunista en lo que hoy en día es Moldavia, estudió en Israel en hebreo y continuó su carrera académica en Estados Unidos. En 2014, justo cuando acababa de ser madre primeriza a sus cuarenta años, le diagnosticaron un cáncer de mama que acabó superando después de un complicado tratamiento. Este calvario hizo que se replanteara su investigación y se centrara en la IA aplicada al ámbito médico. Con los años su investigación fue generando un interés creciente hasta recibir una Beca MacArthur, popularmente conocida como la beca de los genios. Barzilay y su equipo se pusieron manos a la obra. Entrenaron un al goritmo con más de dos mil trescientos compuestos con propiedades antimicrobianas para saber si alguno de ellos era capaz de inhibir el crecimiento de la Escherichia coli, una bacteria muy nociva. Luego apli‑ 12
decisiones
caron el mismo modelo a unas seis mil moléculas del Drug Repurposing Hub y posteriormente a más de cien millones de moléculas de otra base de datos para predecir cuáles podrían ser efectivas. A principios de 2020 por fin dieron con lo que buscaban. El algoritmo señaló una molécula a la bautizaron con el nombre de halicina en honor a HAL, el ordenador rebelde de la película 2001: Una odisea del espacio.4 El descubrimiento de un superfármaco capaz de contrarrestar las superbacterias llenó los titulares de todo el mundo. Fue aplaudido por ser un momento de progreso tecnológico, de superioridad de las máquinas frente al hombre. “La IA descubre un antibiótico para tratar las enfermedades fármacorresistentes”, rezaba el titular en primera plana del Financial Times. Pero ese titular no reflejaba lo que había ocurrido realmente. No fue una victoria de la IA, sino un triunfo de la cognición humana: de nuestra capacidad de estar a la altura de un desafío crucial, de haber sabido concebirlo de manera diferente y alterar ciertos aspectos para abrir nuevos caminos que nos condujeran hasta una solución. El mérito no fue de las nuevas tecnologías, sino de las capacidades humanas. “Los humanos fueron los que seleccionaron los compuestos adecuados, los que sabían lo que estaban haciendo cuando proporcionaron todo el material al modelo para que aprendiera”, explica Barzilay.5 Fueron los humanos los que definieron el problema, los que pensaron cómo abordarlo, los que eligieron las moléculas que se utilizaron para entrenar el algoritmo y los que luego seleccionaron la base de datos de sustancias que tenía que examinarse. Y cuando aparecieron algunas candidatas, también fueron los humanos los que aplicaron de nuevo su prisma biológico para comprender por qué aquellas sustancias resultaban efectivas. El proceso para descubrir la halicina fue mucho más que un impresionante avance científico o un gran paso para acelerar y bajar los costes del proceso de desarrollo de los fármacos. Para lograrlo, Barzilay y su equipo tuvieron que utilizar su libertad cognitiva. No sacaron la idea de un libro, ni la heredaron de una tradición científica ni se les ocurrió al atar unos cabos obvios. La idea surgió porque adoptaron una facultad cognitiva única que poseen todos los humanos. 13
framers
los modelos mentales y el mundo Los humanos utilizamos modelos mentales para pensar. Son representaciones de la realidad que nos ayudan comprender mejor el mundo. Nos permiten ver patrones, predecir cómo se desarrollarán los acontecimientos y entender las circunstancias con las que nos encontramos. De lo contrario, la realidad nos parecería una avalancha de información, una maraña incompleta de experiencias y sensaciones. Los modelos mentales nos ayudan a poner orden. Nos permiten centrarnos en lo esencial e ignorar todo lo demás, como cuando en una fiesta estamos concentrados en la conversación que estamos manteniendo y omitimos el parloteo que nos rodea. Confeccionamos una simulación de la realidad en nuestra mente para anticipar cómo podría desarrollarse una determinada situación. Utilizamos modelos mentales continuamente, incluso aunque no nos demos cuenta. Pero hay ciertos momentos en los que sí somos plenamente conscientes de estar evaluando una situación y en los que somos capaces de mantener o cambiar nuestra perspectiva deliberadamente. Suele ocurrir cuando tenemos que tomar una decisión con consecuencias trascendentales como, por ejemplo, cambiar de trabajo, tener hijos, comprar una casa, cerrar una fábrica o construir un rascacielos. En estos casos, nos resulta evidente que nuestras decisiones no se basan simplemente en el razonamiento que aplicamos, sino en algo mucho más fundamental: la perspectiva singular a través de la cual examinamos la situación, es decir, nuestra manera de percibir cómo funciona el mundo. Este nivel subyacente de cognición está compuesto de modelos mentales. Hace tiempo que sabemos y que damos por sentado que tenemos que interpretar el mundo para poder existir en él, que nuestra manera de percibir la realidad tiene influencia directa en nuestras acciones. Y precisamente por eso el logro de Regina Barzilay fue tan impresionante. Consiguió concebir el problema correctamente. Aplicó un modelo mental; dejó de centrarse en la estructura de las moléculas (es decir, en el mecanismo que las hacía efectivas) y pasó a prestar atención a su funcionalidad (es decir, a si eran efectivas o no). Al enmarcar el proble‑ 14
decisiones
ma de manera diferente, Barzilay y su equipo consiguieron realizar un descubrimiento que hasta entonces nadie había sido capaz de lograr. Barzilay es una enmarcadora. Al enmarcar correctamente la situación, consiguió desbloquear nuevas soluciones. Los modelos mentales que elegimos y aplicamos son marcos: determinan nuestra manera de comprender el mundo y de actuar en él. Los marcos nos permiten generalizar y realizar abstracciones que podemos aplicar a otras situaciones. Gracias a ellos podemos enfrentarnos a situaciones nuevas en vez de tener que volver a aprenderlo todo desde cero. Los marcos siempre están operando de fondo. Pero también podemos parar un momento y preguntarnos deliberadamente qué marco estamos aplicando y si es el más adecuado teniendo en cuenta las circunstancias. Y en caso de que no lo sea podemos escoger otro que encaje mejor. O incluso podemos inventar un marco completamente nuevo. Enmarcar bien es una parte tan fundamental de la cognición humana, y hasta hace relativamente poco incluso las personas que estudian el funcionamiento de la mente apenas se habían centrado en profundizar en esta capacidad. Su importancia quedó eclipsada por otras capacidades mentales como por ejemplo la percepción y la memoria. Pero a medida que hemos ido tomando consciencia de la necesidad de mejorar el proceso de toma de decisiones, el papel fundamental que tienen los marcos a la hora de elegir y actuar adecuadamente ha dejado de estar entre bambalinas y ha salido al centro del escenario. Ahora sabemos que si aplicamos el marco correcto de la manera correcta podemos desbloquear una gran variedad de posibilidades, que a su vez pueden ayudarnos a tomar mejores decisiones. Los marcos que utilizamos afectan las opciones que visualizamos, las decisiones que tomamos y los resultados que conseguimos. Si logramos mejorar nuestra capacidad de enmarcar obtendremos mejores resultados. Muchos de los problemas más peliagudos de la sociedad en el fondo no son más que desavenencias sobre cuál es la mejor manera de enmarcar una cuestión. ¿Debería Estados Unidos construir muros para separarse de otros países o puentes para salvar las distancias? ¿Debería Escocia quedarse dentro de Reino Unido o declarar su independencia? 15
framers
¿Debería la política china de “un país, dos sistemas” aplicada a Hong Kong enfatizar la primera parte de la frase o la última? Puede que varias personas saquen conclusiones diferentes de una misma situación debido a que utilizan marcos diferentes. El quarterback del San Francisco 49ers, Colin Kaepernick, hincó la rodilla durante el himno nacional en 2016 para llamar la atención sobre el racismo y la violencia policial, y algunos lo percibieron como una manera respetuosa de protestar simbólicamente.6 Al fin y al cabo, no había dado la espalda ni había alzado el puño (ni el dedo). Sin embargo, a otros les pareció un acto irrespetuoso y grotesco contra el país, una treta publicitaria hostil realizada por un jugador mediocre que llevó la guerra cultural hasta uno de los pocos ámbitos de la vida estadounidense que todavía no se habían echado a perder. La discusión no trataba sobre lo ocurrido, sino sobre su significado. Era como un test de Rorschach: la percepción de la gente dependía del marco que hubiese utilizado. Cada marco nos permite ver el mundo desde una perspectiva diferente. Los marcos magnifican ciertos elementos y minimizan otros. El marco capitalista nos muestra que el mundo está lleno de oportunidades comerciales, y en cambio el marco comunista lo reduce todo a una lucha de clases. Para los empresarios industriales la selva tropical es un montón de madera que tiene un valor inmediato, mientras que para los ecologistas es el pulmón del planeta, crucial para la supervivencia a largo plazo. ¿Debería ser obligatorio llevar mascarilla en público en medio de una pandemia? En Estados Unidos, las personas que utilizaron el marco de la salud dijeron: “Sí, por supuesto”, mientras que los que utilizaron el marco de la libertad clamaron: “¡Ni de broma!”. Misma información, marcos diferentes, conclusiones opuestas. A veces nuestros marcos no encajan con la realidad en la que los aplicamos. De hecho, no existen los marcos malos per se (salvo una excepción sobre la que hablaremos más adelante), pero desde luego sí que existen casos de enmarcación errónea en los que un marco no acaba de encajar del todo bien con la realidad. Fijémonos en el ejemplo del libro de anatomía del siglo xv titulado Fasciculus Medicinae,7 que asociaba las partes del cuerpo con los signos del zodiaco, creando así 16
decisiones
una agradable simetría entre el cielo y los órganos. Sin embargo, ese marco nunca consiguió curar a nadie, por lo que lo desestimaron en cuanto descubrieron otros más útiles. Hoy en día seguimos cometiendo errores parecidos. En 2008 Nokia era la empresa líder mundial en la venta de teléfonos móviles. Cuando Apple presentó el iPhone, pocos creyeron que prosperaría. La tendencia en aquel momento era que los teléfonos fueran más pequeños y baratos, pero los de Apple eran más voluminosos, caros y tenían más fallos informáticos. El marco de Nokia provenía de la conservadora industria de la telecomunicación, que valoraba la practicidad y la fiabilidad por encima de todo. En cambio, el marco de Apple provenía de la entusiasta e innovadora industria informática, que valoraba que los dispositivos fueran fáciles de usar y que pudieran ampliar sus funciones con nuevos programas. Resultó que ese marco acabó encajando mejor con las necesidades y deseos de los consumidores y Apple pasó a dominar el mercado. Sin embargo, la aplicación errónea de un marco puede acarrear terribles consecuencias. En la década de los treinta, la Unión Soviética decidió seguir la ideología del lysenkoísmo,8 una teoría de genética vegetal basada en la ideología del marxismo-leninismo, no en la botánica. Uno de sus principios dictaba que los cultivos podían plantarse más cerca unos de otros, ya que según la teoría comunista los miembros de una misma clase viven en solidaridad y no compiten por los recursos. Tomar un marco comunista económico y aplicarlo a la agricultura es una completa locura, pero es lo que hicieron los líderes del país, que convirtieron ese marco en la base de su política agraria. El proponente de esa ideología, Trofim Lysenko, tenía el favor del propio Stalin. Los científicos que cuestionaron sus hallazgos fueron despedidos, presos, exiliados o ejecutados. El gran biólogo ruso Nikolái Vavílov criticó las investigaciones científicas de Lysenko y fue condenado a muerte. ¿Y cuáles fueron los resultados del lysenkoísmo? A pesar de que el país incrementó su superficie cultivable por cien, la cosecha disminuyó debido a que las plantas se morían o se pudrían. La aplicación errónea de un marco contribuyó a una trágica hambruna que costó millones de vidas. 17