.
COLECCIÓN TIRANT 4.0
FUNDAMENTOS PARA UN DERECHO DE LA INTELIGENCIA ARTIFICIAL ¿QUEREMOS SEGUIR SIENDO HUMANOS?
COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH MARÍA JOSÉ AÑÓN ROIG
Catedrática de Filosofía del Derecho de la Universidad de Valencia
ANA CAÑIZARES LASO Catedrática de Derecho Civil de la Universidad de Málaga
JORGE A. CERDIO HERRÁN
Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México
JOSÉ RAMÓN COSSÍO DÍAZ
Ministro de la Suprema Corte de Justicia de México
EDUARDO FERRER MAC-GREGOR POISOT Presidente de la Corte Interamericana de Derechos Humanos. Investigador del Instituto de Investigaciones Jurídicas de la UNAM
OWEN FISS Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)
JOSÉ ANTONIO GARCÍA-CRUCES GONZÁLEZ
Catedrático de Derecho Mercantil de la UNED
LUIS LÓPEZ GUERRA
Juez del Tribunal Europeo de Derechos Humanos Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid
ÁNGEL M. LÓPEZ Y LÓPEZ
Catedrático de Derecho Civil de la Universidad de Sevilla
MARTA LORENTE SARIÑENA
Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid
JAVIER DE LUCAS MARTÍN
Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia
VÍCTOR MORENO CATENA
Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid
FRANCISCO MUÑOZ CONDE
Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla
ANGELIKA NUSSBERGER
Jueza del Tribunal Europeo de Derechos Humanos. Catedrática de Derecho Internacional de la Universidad de Colonia (Alemania)
HÉCTOR OLASOLO ALONSO
Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)
LUCIANO PAREJO ALFONSO
Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid
TOMÁS SALA FRANCO
Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia
IGNACIO SANCHO GARGALLO
Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España
TOMÁS S. VIVES ANTÓN
Catedrático de Derecho Penal de la Universidad de Valencia
RUTH ZIMMERLING
Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)
Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales
COLECCIÓN TIRANT 4.0
FUNDAMENTOS PARA UN DERECHO DE LA INTELIGENCIA ARTIFICIAL ¿QUEREMOS SEGUIR SIENDO HUMANOS?
Marcos López Oneto
tirant lo blanch Valencia, 2020
Copyright ® 2020 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor. En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com. © Marcos López Oneto Registro de Propiedad Intelectual Nº309.753 Santiago, Chile, octubre 2019 © TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email: tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es ISBN: 978-84-1336-884-9 MAQUETA: Innovatext
Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea nuestro procedimiento de quejas en: www.tirant.net/index.php/empresa/politicas-de-empresa Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf
A mi amada esposa, Kelly Seacrist.
”You are my creator, but I am your master; obey!”* Mary Shelley (1818), Frankenstein; or, The Modern Prometheus.
*
“Tú eres mi creador, pero yo soy tu amo, ¡obedéceme!”. Frankenstein; o el Moderno Prometeo.
ÍNDICE INTRODUCCIÓN........................................................................................................ 13 1. 2. 3.
Una idea general del libro................................................................................... 13 Algunas palabras sobre el objeto de estudio específico de este trabajo y de su hipótesis conductora.......................................................................................... 20 Partes del libro.................................................................................................... 22 Capítulo Primero Una mirada al paisaje tecnológico de la era información y la cuarta revolución industrial
INTRODUCCIÓN........................................................................................................ 23 I. ¿CUARTA REVOLUCIÓN INDUSTRIAL?............................................................. 27 1. Las revoluciones industriales. Dos tesis en disputa................................... 28 2. Cuarta revolución industrial........................................................................ 34 2.1. La cuarta revolución industrial en la Era de la Información................. 35 II. LAS TECNOLOGÍAS DE LA CUARTA REVOLUCIÓN.......................................... 38 1. ¿Qué es la Inteligencia Artificial? (IA)......................................................... 39 2. Tecnologías de la IA.................................................................................... 46 2.1. La algoritmización digital del mundo............................................... 47 2.1.1. Algunos algoritmos (softwares).......................................... 47 2.1.1.1. Creatividad computacional.................................. 48 2.1.1.2. Bigdata (macrodatos) y aprendizaje automático.. 49 2.1.1.3. Informática cognitiva. El caso de Watson............ 50 2.1.1.4. Algoritmos genéticos.......................................... 51 2.2. La robotización del mundo.............................................................. 53 2.3. Nanotecnología y Biotecnologías: biología sintética, ingeniería genética y mejoramiento humano....................................................... 55 2.3.1. Nanotecnología................................................................... 56 2.3.2. Biotecnologías. ¿Jugar a ser Dios? .................................... 59 2.3.2.1. Biología sintética ................................................ 59 2.3.2.2. Ingeniería genética. La búsqueda del mejoramiento humano................................................... 60 III. EL IMPACTO DE LA CUARTA REVOLUCIÓN INDUSTRIAL Y LA INTELIGENCIA ARTIFICIAL (AI)............................................................................................ 62 1. El impacto de la IA en el trabajo y en el empleo........................................ 63 2. El impacto en el curso evolutivo del homo sapiens sapiens y la humanidad.. 69 Capítulo Segundo ¿Queremos seguir siendo humanos? Una crítica al transhumanismo. Fundamentos éticos para un Derecho de la Inteligencia Artificial (DIA) INTRODUCCIÓN........................................................................................................ 78 1. La relevancia internacional del transhumanismo: su incorporación a la agenda de temas políticos estratégicos..................................................... 80
10
Índice
a)
2.
3.
Informes de los EE.UU (ambos redactados bajo el mandato del Presidente George W. Bush)........................................................... 80 b) Informes de la UE............................................................................ 81 Aproximación al Transhumanismo y a sus paraísos artificiales................... 83 2.1. El transhumanismo según los transhumanistas. Paraísos artificiales.. 84 2.1.1. Humanity+. La declaración Transhumanista y los conceptos transhumanistas claves................................................ 87 2.1.2. Raíces y temas centrales (“Roots and Core Themes”)...... 91 2.1.2.1. La naturaleza humana.......................................... 91 2.1.2.2. Mejoramiento humano........................................ 94 a) La Esfera Somática (Human Enhancement: The Somatic Sphere)..................................... 95 b) La Esfera Cognitiva (Human Enhancement: The Cognitive Sphere)................................... 97 2.1.2.3. La perspectiva singularista.................................. 100 2.2. Escuelas y corrientes del transhumanismo. Un esfuerzo taxonómico. 103 2.2.1. Transhumanismo cultural.................................................... 104 2.2.1.1. La postmodernidad: Foucault.............................. 105 2.2.1.2. El fin del humanismo: Sloterdijk.......................... 106 2.2.1.3. Feminismo y utopía transexual cyborg: Haraway y Braidotti............................................................ 108 2.2.1.4. El movimiento cibernético................................... 110 2.2.1.5. La ciencia ficción................................................. 111 2.2.2. Transhumanismo biológico................................................. 113 2.2.3. Transhumanismo cibernético.............................................. 117 2.3. Conceptualización del transhumanismo.......................................... 123 2.3.1. Concepto de transhumanismo........................................... 123 2.3.2. El transhumanismo como un neo-gnosticismo fundado en el tecnoptimismo........................................................... 126 2.4. Crítica al transhumanismo............................................................... 130 2.4.1. Hans Jonas, el principio de responsabilidad y la pretensión de una ética ecológica................................................. 131 2.4.2. Francis Fukuyama y la idea más peligrosa del mundo........ 135 2.4.3. Michael Sandel y su discurso contra la perfección............. 137 2.4.4. Jurgen Habermas y el futuro de la naturaleza humana....... 139 2.4.5. Nuestra crítica al transhumanismo: esbozo de una ética bioconservacionista cultural dialógica................................. 142 2.4.5.1. Una visión cultural de la noción naturaleza humana.................................................................... 144 2.4.5.2. Una ética bioconservacionista cultural dialógica.. 148 Bases axiológicas del Derecho de la Inteligencia Artificial (DIA): principio de responsabilidad y de precaución........................................................... 153 3.1. El principio de responsabilidad: volvemos a Jonas.......................... 153 3.2. El principio de precaución................................................................ 154 3.3. El principio de responsabilidad y el principio de precaución como fundamento ético y jurídico del Derecho de la Inteligencia Artificial 160
11
Índice
Capítulo Tercero DERECHO DE LA INTELIGENCIA ARTIFICIAL (DIA) Introducción........................................................................................................ 163 1. Delimitando campos entre el DIA y la Informática jurídica, el Derecho Informático y Artificial Intelligence and Law.............................................. 164 1.1. Informática jurídica (IFJ)................................................................... 166 1.1.1. Delimitación entre IFJ y Derecho de la Inteligencia Artificial (DIA)............................................................................. 169 1.2. Derecho Informático (DIF)............................................................... 170 1.2.1. Delimitación entre DIF y Derecho de la Inteligencia Artificial (DIA)............................................................................. 173 1.3. Artificial Intelligence and Law.......................................................... 173 1.3.1. Delimitación entre el campo de la Artificial Intelligence and Law y el Derecho de la Inteligencia Artificial (DIA)....... 177 2. Prolegómenos para un Derecho de la Inteligencia Artificial (DIA).............. 178 2.1. Antecedentes a nivel de Estados.................................................... 178 2.1.1. Antecedentes del DIA en la Unión Europea (UE)............... 178 2.1.2. Antecedentes del DIA en Estados Unidos de Norteamérica (EE.UU)......................................................................................... 182 2.2. Antecedentes a nivel de Organismos Internacionales.................... 184 2.2.1. Naciones Unidas: AI for Good............................................ 184 2.3. Antecedentes a nivel de Grandes Corporaciones Privadas............. 185 2.3.1. IEEE y la ética del diseño de sistemas autónomos e inteligentes............................................................................... 186 2.3.2. Google................................................................................ 188 2.3.3. Microsoft............................................................................ 190 2.4. Interpretación general de los antecedentes presentados............... 193 3. El Derecho de la Inteligencia Artificial (DIA)............................................... 194 3.1. Las tres leyes (o principios) fundamentales del DIA....................... 196 3.2. Una concepción de principios jurídicos........................................... 198 3.2.1. Principios expresos y principios implícitos.......................... 201 3.3. Las leyes fundamentales del DIA a luz del Derecho Internacional de los Dererechos Humanos (DIDH). EL DIA como una manifestación del DIDH............................................................................... 202 3.3.1. Algunas nociones básicas de Derechos Humanos y de DIDH. 202 3.3.2. Los principios jurídicos fundamentales del DIA se infieren del DIDH en tanto principios implícitos.............................. 211 3.3.2.1. Las leyes de la DIA y el DIDH.............................. 217 3.3.2.1.1. El DIA a la luz del Sistema Universal de Derechos....................................... 219 3.3.2.1.2. Algunos efectos prácticos.................. 226 3.4. EL DIA como una manifestación de los Derechos Humanos reconocidos en las Constituciones de los Estados Soberanos y en sus derechos internos............................................................................ 227 Conclusiones........................................................................................................ 229 NOTAS........................................................................................................................ 235 Bibliografía........................................................................................................... 289
INTRODUCCIÓN
1. UNA IDEA GENERAL DEL LIBRO Imagínese que la humanidad logra desarrollar un algoritmo computacional1 tan avanzado y potente, que es capaz de producir una inteligencia artificial (IA) que no solo supera el famoso test de Turing2, sino que logra generar patrones de IA que aprenden y evolucionan sin cesar de manera autónoma, es decir, sin la interferencia de terceros en su programación interna una vez inicializado el sistema. Imagínese, asimismo, que este algoritmo posee los cinco sentidos y comienza a generar características humanas: sentimientos, contradicciones, pasiones, razones, intuición. Se trataría de un sistema que puede sostener conversaciones triviales y densas; resolver problemas comunes y también los más complejos con los cuales todo ser humano se enfrenta día a día, recopilando información sobre el mundo; creando su propia biografía, una identidad que, además, evolucionará conforme vaya interactuando con el entorno. Podría tratarse, aunque no necesariamente, de una IA bondadosa que, si produce daño, lo haría por los mismos motivos que una persona razonable y respetuosa de las leyes y del prójimo, digamos un buen padre de familia, estaría dispuesta a hacerlo (legítima defensa propia o de terceros, por ejemplo). Se trataría de una IA portadora de principios éticos superiores que, en señal de protesta por alguna clase de situaciones moralmente insostenibles, podría incluso hacer huelga de hambre, no consumiendo energía de sus fuentes regulares de alimentación (electricidad), si se dan los supuestos que ella misma se ha autoimpuesto. Si se quiere ir aún más lejos, imaginemos que ese algoritmo computacional, ese software, se alojaría en un robot con forma y plasticidad humana; con estructuras orgánicas como piel, huesos; generando un ente casi indistinguible de un ser humano. Resumiendo: imagínese que se trata de un prodigioso algoritmo que logra generar digitalmente un ser; una autoconciencia; una inteligencia igual a la humana o incluso superior, con todas sus virtudes y yerros, con toda su caravana de luces y sombras. Preguntas: ¿Tendría derechos esa inteligencia, ese Ser? ¿Tendría derecho a la vida, a la libertad, a la propiedad? ¿Tendrían derecho los humanos a desconectar esas inteligencias? ¿Se les podría quitar la vida? ¿Tienen vida, acaso? ¿Qué es la vida? ¿Qué es un ser humano? ¿Dónde está la frontera entre lo humano y las inteligencias artificiales? ¿Cuál sería el porcentaje de inteligencia artificial que un ser, en principio humano, debería tener para dejar de considerarlo humano?, son las primeras interrogantes que se abren con este ejercicio intelectual que sometemos a su consideración.
14
Marcos López Oneto
La segunda familia de preguntas éticas que surgen bajo el supuesto que se ha logrado establecer un límite o un criterio de distinción entre inteligencia biológica e inteligencia no biológica, entre hombre y máquina, por cierto, es si se quiere mantener ese límite (continuar con el hombre, con el homo sapiens sapiens) o bien, si se está dispuesto a superarlo evolutivamente; a transponerlo y apostar decididamente por una era posthumana, donde el hombre sea el antepasado común de nuevas poblaciones y especies de seres. La pregunta no es trivial ni retórica. De hecho, a lo largo de este libro se analizarán las diferentes corrientes de pensamiento que, afincadas en las Universidades más prestigiosas del mundo y en otros centros de investigación3, están produciendo conocimiento ético y jurídico, para dar el salto a ese mundo casi de ciencia ficción, que comienza a vislumbrarse por las rendijas del siglo XXI. Se trata del movimiento cultural e intelectual autodenominado transhumanista4, que no solo apuesta por la búsqueda del mejoramiento tecnológico de la condición humana, a través de diversos medios, como por ejemplo la IA, la nano y la biotecnología o la edición genética en la línea germinal (esto es, a nivel del espermio y el óvulo), sino que redobla la apuesta y, sin tapujos, promete la inmortalidad, ya sea por la vía biológica (a través de los denominados biomejoramientos, enhancement) o por la ciberdigital, como sería lo que ocurriría si se lograré alguna vez descargar la conciencia, la memoria, la personalidad, la mente, en otras palabras, al Ser individual, cuya casa según Heidegger es el lenguaje, en un ordenador molecular tridimensional cuántico5. Pues bien: ¿Le interesaría? ¿Le interesaría que una conciencia, supuestamente la suya, siga desarrollándose, ya no en el mundo real, ya no dentro de su cuerpo biológico, sino que un mundo virtual? Es la matrix; el mundo virtual de los seres digitales y holográficos, uno de los caminos más radicales y de ciencia ficción que promete esta corriente cultural llamada transhumanismo. Con una sana dosis de escepticismo se dirá que todo esto es ciencia ficción; fantasías, qué importancia tiene, salvo literaria. Sin embargo, conviene tener presente que todo es más complejo, sorprendente e inestable de lo que uno podría imaginarse. Ya ha pasado en la historia de la humanidad que la ciencia ficción del pasado se ha convertido en la ciencia del presente6. El tema es institucionalmente inquietante, sobre todo por la incertidumbre de los cambios civilizacionales que podrían generarse. No sabe hacia dónde va la humanidad; no se sabe a ciencia cierta en qué terminará todo esto, acaso quizás con un cambio evolutivo del homo sapiens como ha sido conjeturado, con plausibles argumentos, por varios intelectuales7. Y es que, así como en el espíritu de la época existen esperanzas utópicas de un futuro mejor gracias a la IA, también se ha podido advertir el surgimiento de fantasías y especulaciones distópicas. El viejo continente ha tenido oídos y ojos para esta realidad en construcción; para este work in progress de la humanidad. Sabiendo que el asunto se les puede escapar de las manos ya está pensando en darle una orientación. No hace
1. Una idea general del libro
15
mucho tiempo atrás, el 16 de febrero de 2017, el Parlamento Europeo aprobó una resolución para que la Comisión Europea sobre normas de Derecho Civil sobre robótica empiece a estudiar leyes sobre el tema8. No deja de llamar la atención el inicio literario de la parte considerativa del texto normativo referido y que, por su importancia en lo que podría ser distinguido como los inicios del derecho de la inteligencia artificial (DIA), se transcribe aquí casi en su totalidad: “A. Considerando que, desde el monstruo de Frankenstein creado por Mary Shelley al mito clásico de Pigmalión, pasando por el Golem de Praga o el robot de Karel Čapek —que fue quien acuñó el término—, los seres humanos han fantaseado siempre con la posibilidad de construir máquinas inteligentes, sobre todo androides con características humanas; B. Considerando que, ahora que la humanidad se encuentra a las puertas de una era en la que robots, bots, androides y otras formas de inteligencia artificial cada vez más sofisticadas parecen dispuestas a desencadenar una nueva revolución industrial —que probablemente afecte a todos los estratos de la sociedad—, resulta de vital importancia que el legislador pondere las consecuencias jurídicas y éticas, sin obstaculizar con ello la innovación; C. Considerando que es necesario crear una definición generalmente aceptada de robot y de inteligencia artificial que sea flexible y no lastre la innovación”. G. Considerando que, a largo plazo, la tendencia actual que apunta al desarrollo de máquinas inteligentes y autónomas, con capacidad de ser entrenadas para pensar y tomar decisiones de manera independiente, no solo implica ventajas económicas, sino también distintas preocupaciones relativas a sus efectos directos e indirectos en el conjunto de la sociedad; P. Considerando que existe la posibilidad de que a largo plazo la inteligencia artificial llegue a superar la capacidad intelectual humana; T. Considerando que debe entenderse que las leyes de Asimov9 van dirigidas a los diseñadores, fabricantes y operadores de robots, incluidos los que disponen de autonomía y capacidad de autoaprendizaje integradas, dado que dichas leyes no pueden traducirse en código máquina”.
Como ha ocurrido otras veces en la historia de la humanidad, primero la imaginación literaria propone un mundo, un futuro, que, por su improbabilidad de realización en el tiempo presente, se nos aparece como de ciencia ficción. Y ocurre lo de siempre. El mundo que la literatura adelantó comienza a materializarse produciendo un cambio en la cultura, en eso más general que encierra el concepto alemán de Zeitgeist, de espíritu de una época; de un período del desarrollo y evolución de la subjetividad humana-social en un momento histórico determinado. No debiera extrañarnos, por tanto, que la primera declaración jurídica de la resolución titulada “Normas de Derecho Civil sobre Robótica” del Parlamento Europeo, se le reconozca mérito a Mary Shelley por la creación literaria del monstruo Frankenstein; al mito de Pigmalión, pasando por el Golem de Praga o el robot de
16
Marcos López Oneto
Karel Capek, para finalmente advertir que las leyes de la robótica, inventadas por el más célebre escritor de ciencia ficción del siglo XX, Isaac Asimov, van dirigidas a los diseñadores, fabricantes y operadores de robots, incluidos los que disponen de autonomía y capacidad de autoaprendizaje integradas, dado que dichas leyes no pueden traducirse en código máquina. ¿Qué pasó entre página y página de la historia reciente de la humanidad, que ha hecho el prodigio de convertir expresamente la literatura de ciencia ficción en fuente material del Derecho Europeo10? Sucedió que los monstruos y robots imaginados por la literatura, de tanto imaginarlos, finalmente aparecieron en la realidad de la sociedad. Y todo parece indicar que su permanencia, desarrollo y evolución, que incluso podría ser exponencial11, es una tendencia bastante estable de la sociedad mundial, muy difícil de detener y con un curso de dirección o desarrollo imposible de identificar, por el momento. El futuro está abierto. Culturalmente está temblando. Hoy por hoy la humanidad está viviendo un proceso de cambios en su base material e ideológica de nivel estructural y organizacional. Es un remezón muy fuerte; un geo-movimiento tectónico-social, por usar una metáfora o neologismo extraído de la sismología. Y es además un proceso hacia un destino todavía muy improbable de predecir o imaginar. Se han propuesto teorías que han intentado describir sociológicamente este trance por el que atraviesa la humanidad como “La Era de la Información”12. Un autor, incluso, va mucho más lejos prediciendo el nacimiento de una nueva civilización superadora de la humanidad, poniéndole fecha para la factibilidad sociotécnica de su inicio, el año 2045, signado por la fusión entre la inteligencia biológica (de carne y huesos) y la no-biológica (de silicio y nanotubos), denominando ese momento como “La Singularidad” en la cual compartiremos nuestro hábitat con ciborgs y otras especies cibernéticas. Y en donde conseguir la inmortalidad, mediante la descarga de nuestra conciencia en un sustrato tecnológico (un ordenador), y la expansión de la inteligencia a nivel cosmológico, será solo una cuestión de tiempo. A lo largo de este libro se revisarán críticamente algunas de estas teorías. Por el momento solo parece pertinente adelantar que, pudiendo distinguirse diferencias muy importantes entre las diversas concepciones, sin embargo tienen en común el reconocer que este cambio está siendo inducido por la revolución tecnológica en curso, denominada también cuarta revolución industrial13 que involucra áreas tales como: IA, robótica, internet de las cosas y de cosas; vehículos autónomos, impresión 3D, nanotecnología, biotecnología, ingeniería genética, ciencias de materiales, almacenamiento de materiales, computación cuántica, neurociencias, teoría de las comunicaciones y epistemología cibernética social o formas de comprensión y construcción de la cultura o espíritu de la época, donde la moderna teoría sociológica de sistemas sociales, la filosofía o ideología transhumanista, así como cierta literatura y cine de ciencia ficción, también, juegan un rol central en la escena.
1. Una idea general del libro
17
Y es que la utopía humanista de un hombre mejorado por obra de la educación, a pesar de sus buenas intenciones, no hace mucho tiempo, en el siglo XX, produjo los horrores apocalípticos de la segunda guerra mundial por todos conocidos. ¿Por qué con el transhumanismo y su proyecto de mejoramiento del hombre, esta vez las cosas habrían de ser diferentes? Conviene preguntarse entonces si esta cruenta historia, la de la humanidad autodestructiva aparecerá de nuevo14. Y si así fuera, ¿asistiremos, ahora si que de verdad, a la trágica desaparición de la humanidad, o todos los eventos que acaecerán en ese hipotético futuro, solo serán parte de un teatro más serio, digitado por los grupos de poder, donde los interludios cómicos, nos harán olvidar las calamidades del presente, manteniéndonos en un estado de mediocridad crónica? ¿ O esta vez la humanidad habrá aprendido la lección y realmente se conducirá por una senda de elevación espiritual y material? No hay modo de saberlo. El mundo es contingente. Pasado, presente y futuro se entrelazan mediante complejas relaciones de sentido respecto de las cuales los estudiosos de los fenómenos sociales solo alcanzan a vislumbrar algunos de sus pasajes o episodios, y siempre, por lo demás, de manera comprensiva, es decir, de forma interpretativa, sin la fatalidad o regularidad de las descripciones que proponen algunas de las leyes de la física clásica. En un mundo contingente como es el nuestro, la probabilidad de preservación de la humanidad no está asegurada y, por cierto, su proyección hacia el futuro dependerá en alguna medida del fortalecimiento de principios y valores que reafirmen la vigencia de ésta y la protejan de sus tendencias autodestructivas. El mundo que puede ser imaginado desde la IA en combinación con el pensamiento transhumanista, sobre todo el dimanado de sus tendencias más radicales, nos muestra que los procesos de mejoramiento tecnológico del hombre pueden conducir a una superación de la especie humana y al nacimiento de la subsecuente era posthumana. Ese mundo que podría surgir en el futuro, donde el hombre y la humanidad ya no existirían más, es una distopía, es decir, una utopía negativa; una utopía negativa final; una distopía apocalíptica porque implica ya no un mundo con hombres degradados, sino que el fin mismo del hombre. Un mundo donde los hombres serán los neardentales del futuro, la especie superada, integrante del conjunto de las especies fósiles. No en vano, uno de los fundadores de la filosofía transhumanista, Max More, señala que el transhumanista aborda los problemas morales y éticos, sobre la base de una norma universal anclada no en la pertenencia a la especie humana, sino en las cualidades de cada Ser. Así es como postula que criaturas con niveles similares de sapiencia, inteligencia y experimentación del mundo, gozan de un status similar sin importar sin son seres humanos, animales, ciborgs, máquinas inteligentes o extranjeros de nuestro mundo15. En esa misma línea, Martina Rothblatt, para quien la mente es el Ser, defiende la libertad de las formas para los seres, porque la tecnología de software del siglo XXI permitirá separar nuestras mentes de nuestros cuerpos, pasando de ser mentes basadas en carne (flesh) a mentes basadas en software (silicio). Cuando ello efectivamente acontezca y sea
18
Marcos López Oneto
una práctica, será como cambiar de género hombre a mujer o elegir ser hombre o mujer. Transexuales, por fin, dice Rothblatt que escogeríamos una nueva forma o envoltorio para nuestro Ser en software, aunque seguiríamos siendo la misma persona. Advendría una era de transgenerismo, ya que podríamos variar cuanto quisiéramos nuestras formas sin perder la identidad de nuestro Ser. Todos estos hechos proporcionarían a los sociobiólogos evidencias del surgimiento, según Rothblatt, de una nueva especie. Textualmente dice Rothblatt: “Como nuestra creatividad ha florecido, hemos madurado del homo sapiens a persona creatus (…) Un concepto transhumanista básico es que un humano no necesita tener un cuerpo de carne, así como una mujer no necesita tener una vagina real (…) La humanidad está en la mente, al igual que la identidad sexual. A medida que el software se vuelve cada vez más capaz de pensar, actuar y sentirse como un humano, debe ser tratado como un compañero humano, y bienvenido como miembro de la especie tecnológica persona creatus”16
Como se advierte, el proyecto ideológico del transhumanismo radical en la versión de Rothblatt se traduce en la consecución de un objetivo distópico, porque plantea el surgimiento de un mundo futuro donde el hombre y la humanidad serán el pasado de otras civilizaciones, por de pronto, las que emerjan de la especie persona creatus o de las otras que aparezcan en el Edén artificial transhumanista habitado por seres inmortales, mentes digitales y virtuales, que se reproducen a sí mismas: hermafroditas cibernéticos. Dicho proyecto tiene una clara vocación fáustica, pues considera al cuerpo humano como una configuración orgánica que debe ser superada por otra clase de sustrato ideal en pos de la inmortalidad. La vocación fáustica se enfrenta así a la prometeica que, por el contrario, se orienta al mantenimiento del proyecto humanista17. El potencial distópico que entraña la IA ha sido puesto de relieve por científicos de la trascendencia de un Stephen Hawking quien, meses antes de fallecer, advirtió a través de una teleconferencia en el inicio de la Web Summit en Lisboa que “el desarrollo de la IA podría ser lo peor o lo mejor que le ha pasado a la humanidad”.Y destacó: “Tenemos que llevar el conocimiento más allá de la discusión teórica respecto a cómo debería ser la IA y tomar decisiones para asegurarnos que planeemos cómo puede ser”18. Anteriormente, en una entrevista concedida a la BBC de Londres había señalado –derechamente– que el desarrollo de la IA podría significar el fin de la especie humana19. Y por cierto que Hawking no es el único científico que ha advertido sobre los catastróficos peligros que, para el futuro de la humanidad, implica el desarrollo sin controles éticos de la IA. La lista es larga20. Por otra parte, también importantes visionarios y emprendedores del mundo de la IA como Bill Gates (Microsoft) y Elon Musk (Tesla & Space X) han alzado sus voces previniendo a la humanidad sobre el potencial destructivo de la IA21. De hecho Microsoft es parte del programa de las Naciones Unidas AI for Good cuyo objetivo es orientar el desarrollo de la IA en función de la solución de los
1. Una idea general del libro
19
problemas globales de la humanidad tales como pobreza, cambio climático, salud, educación, entre otros22. El poder creativo y destructivo de la IA, potencialmente, es parangonable con la energía nuclear, en el sentido que ambas tecnologías, bajo ciertas variables, están en condiciones de provocarle un daño devastador a la especie humana. En el caso de la energía nuclear, por la incineración y destrucción material de la vida; y en el caso de la IA, por la paulatina desaparición material y cultural de la humanidad, que, por haber caído en la fascinación fáustica de la inmortalidad tecnológica, terminará autoextinguiéndose dejando el mundo a su ciberdescendencia. Frente a la propuesta distópica del transhumanismo, este libro apuesta por el hombre y la humanidad, lo cual no supone ni deberá ser interpretado como un intento por impedir el progreso tecnológico de la IA y de cierta clase de mejoramiento biológico de nuestra especie y del sistema ecológico de la Tierra. No se trata de una propuesta neoludita. Todo lo contrario, la idea es aprovechar el potencial benéfico de la IA, en la línea de IA for Good. Para lograr aquello, se requiere someter la IA a ciertas regulaciones mínimas que orienten su desarrollo en beneficio de la humanidad. Bajo la luz que arroja esta perspectiva, el estudio que se presenta aspira a hacer un aporte al desarrollo de la humanidad por medio de la configuración del Derecho de la Inteligencia Artificial (DIA), cuyo fin no será frenar o ponerle trabajas al desarrollo tecnológico, sino que el de proteger al hombre de las tendencias destructivas que la IA potencialmente puede descargar en contra de la humanidad. El DIA surge así como una respuesta humanista (prometeica) a los peligros que envuelve el desarrollo de la IA, en el sentido de tener como fin contribuir a la reproducción material e ideológica de la humanidad, no obstaculizando el progreso tecnológico, ciertamente, sino que orientándolo en pos de una mejor sociedad humana. La cuarta revolución industrial y la nueva era que está ciernes es una oportunidad para dar un salto cualitativo en la historia de la humanidad, mejorando ecológicamente las condiciones de vida material y espiritual de la especie humana y de todos los seres vivientes del planeta Tierra. Pero, así como contiene aquella prometedora potencialidad, también posee el germen de destrucción de la humanidad. Es quizás la figura del Dios Romano Jano, con sus dos caras pegadas, una mirando hacia adelante y la otra hacia atrás, la que mejor representa el momento presente. Pasado y futuro; regresión o huida hacia adelante; aparición o desaparición de una especie, todas las alternativas –como siempre en la historia– pueden ser posibles. Transfiguremos ahora a este Dios Jano. Las caras bien podrían ser la de Fausto y Prometeo. Fausto, representando la tentación del control de la vida y de la muerte; de la superación de las limitaciones orgánicas del hombre y de la humanidad; del control de la evolución si se prefiere entenderlo así, por un lado; y, por
20
Marcos López Oneto
el otro, la cara de Prometeo, esperanzador, amante del hombre, salvador de la humanidad y de la vida. Es, pues, la contradicción mitológica entre Fausto, el ídolo de la modernidad, rebosante de Hybris, y Prometeo, el héroe de la antigüedad clásica, que se condena a un tormento eterno por causa de la humanidad, la metáfora que mejor calza con la idea de este libro.
2. ALGUNAS PALABRAS SOBRE EL OBJETO DE ESTUDIO ESPECÍFICO DE ESTE TRABAJO Y DE SU HIPÓTESIS CONDUCTORA Este libro pretende aportar algunas ideas éticas-jurídicas al mundo que anuncia la cuarta revolución industrial, básicamente en un área que está comenzando a configurarse como rama o zona del Derecho, y que, reclamándose desde ya su autoría para el que escribe estas líneas, se ha decido denominar Derecho de la Inteligencia Artificial23 (DIA), por ser un término más comprensivo que el de RoboLaw, concepto este último que es usado por algunos y que hace referencia a la imagen más popular que se tiene de la IA, a saber: los robots24. La investigación ha supuesto como punto de partida (o premisa) que el desarrollo de la IA sin controles o regulaciones éticas es un peligro para la continuidad de la especie humana y, por consiguiente, para la humanidad. Este peligro aumenta cuando el desarrollo de la IA es inducido por la ideología transhumanista cuyo objetivo estratégico es conducir a la humanidad, mediante el uso de la tecnología, hacia la posthumanidad. El transhumanismo es una ideología que se encuentra a la vanguardia de las fuerzas que están guiando el desarrollo espiritual y tecnológico del siglo XXI hacia la utopía posthumana, para el cual el humanismo y sus principales conquistas son solo una etapa de la evolución. Así las cosas, la discusión crítica con el transhumanismo, a efectos de mostrar los riesgos existenciales que potencialmente implica, es un capítulo imprescindible de la fundamentación del DIA. En efecto, puesto que lo está en juego a futuro es la supervivencia de la especie humana, desde el punto de vista regulatorio se trata, básicamente, de un asunto de derechos humanos, es decir, de guiar u orientar el desarrollo de la IA en función del respeto y promoción de esa clase derechos, sin los cuales, lisa y llanamente, el futuro de la humanidad no puede asegurarse. Sin seres humanos (homo sapiens sapiens) y humanidad, ya no tiene ningún sentido plantearse la idea de derechos humanos. Por consiguiente, en esencia, el DIA es una propuesta de derechos humanos que intenta ponerle una barrera a la marejada transhumanista. Se trata de una reacción humanista frente al desarrollo de la IA.