Issuu

ÚLTIMOS TÍTULOS PUBLICADOS ¿Justicia de transición? Pablo Galain Palermo (Ed.)

teoría

La autora de esta obra arrastra al lector desde la imbricación de la Ciencia, Tecnología y Sistema jurídico a lo largo de las diversas Revoluciones industriales (hasta la 4.0.), desde una visión histórica, filosófica, conceptual y jurídica, eminentemente crítica positiva y negativa, con referencias a las políticas públicas especialmente supranacionales, aproximándose a manifestaciones del uso y abuso de estos modelos computacionales, de los Big Data y los algoritmos en el mundo del derecho, y de la Justicia. Un hábitat cibernético, los Smart contracts, el ecosistema de Justicia, la aparición de la Artificial Legal Intelligence, los sistemas de expertos, la justicia predictiva (data mining, hotspots), los sesgos, la vigilancia predictiva, entre otros, sin olvidar el camino hacia la robotización judicial, y las respuestas a la cuestión de si los sistemas algorítmicos pueden pensar, responder, argumentar y decidir como juristas … son todas ellas inquietudes de la autora que quedan expuestas con rigor científico en esta obra.

De la Inteligencia Artificial a la Smart Justice

Fascinación y negación son dos posiciones extremas ante esta volcánica irrupción de la vida digital, de la sociedad algorítmica, que incide también en las relaciones jurídicas, en las instituciones jurídicas, en la Justicia, en el modus operandi, en las estrategias de defensa, en los protagonistas en el sistema de tutela, en las reglas de la prueba, en la motivación de las resoluciones y en el sistema jurídico en su conjunto.

teoría

ALGORITMIZACIÓN DEL DERECHO Y DE LA JUSTICIA

La magia digital, los datos, los algoritmos y las estructuras computacionales, los artefactos, los robots, entre otros, han irrumpido en nuestras vidas, en nuestras sociedades, en nuestra economía, nuestras relaciones y nuestro derecho. Los grados de interacción ser humano-máquina varían, de menos a más, y las manifestaciones de esta nueva sociedad híbridada nos inundan, nos rodean, nos ofrecen, nos arrastran y nos permiten —también— sentir una vida más fácil.

La cuestión de lo político Eric Herrán

ALGORITMIZACIÓN DEL DERECHO Y DE LA JUSTICIA De la Inteligencia Artificial a la Smart Justice

Teoría crítica constitucional Ricardo Sanín Restrepo Argumentación jurídico Marina Gascón Abellán (Coord.) Tratado de criminología 5ª ed. Antonio García-Pablos de Molina Libertad y familia Encarna Roca i Trias El buen jurista Cristina García Pascual (Coord.) La justificación de las leyes penales José Manuel Paredes Castañón Teoría del derecho y argumentación jurídica Ramón Ortega García (Coord.) Operae Ricardo Panero Gutiérrez Principios de derecho y política penitenciaria Europea Dirk Van Zyl Smit Sonja Snacken El Derecho penal económico en la era compliance Luis Arroyo Zapatero Adán Nieto Martín Dworkin y sus críticos Mariano C. Melero de la Torre (Ed.)

978-84-1378-665-0

PROMETEO 2018/111

9 788413 786650

SILVIA BARONA VILAR

teoría

ALGORITMIZACIÓN DEL DERECHO Y DE LA JUSTICIA De la Inteligencia Artificial a la Smart Justice

COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH María José Añón Roig

Javier de Lucas Martín

Ana Cañizares Laso

Víctor Moreno Catena

Catedrática de Filosofía del Derecho de la Universidad de Valencia

Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia

Catedrática de Derecho Civil de la Universidad de Málaga

Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid

Jorge A. Cerdio Herrán

Francisco Muñoz Conde

José Ramón Cossío Díaz

Angelika Nussberger

Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México Ministro en retiro de la Suprema Corte de Justicia de la Nación y miembro de El Colegio Nacional

Eduardo Ferrer Mac-Gregor Poisot

Juez de la Corte Interamericana de Derechos Humanos Investigador del Instituto de Investigaciones Jurídicas de la UNAM

Owen Fiss

Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)

José Antonio García-Cruces González Catedrático de Derecho Mercantil de la UNED

Luis López Guerra

Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid

Ángel M. López y López

Catedrático de Derecho Civil de la Universidad de Sevilla

Marta Lorente Sariñena

Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid

Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla Catedrática de Derecho Constitucional e Internacional en la Universidad de Colonia (Alemania) Miembro de la Comisión de Venecia

Héctor Olasolo Alonso

Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)

Luciano Parejo Alfonso

Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid

Tomás Sala Franco

Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia

Ignacio Sancho Gargallo

Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España

Tomás S. Vives Antón

Catedrático de Derecho Penal de la Universidad de Valencia

Ruth Zimmerling

Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)

Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales

ALGORITMIZACIÓN DEL DERECHO Y DE LA JUSTICIA De la Inteligencia Artificial a la Smart Justice

SILVIA BARONA VILAR Catedrática de Derecho Procesal Universitat València

PROMETEO 2018/111

tirant lo blanch

Valencia, 2021

Copyright ® 2021 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de la autora y del editor. En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com. Dentro del control de los originales de libros de la colección Teoría de la Editorial Tirant lo Blanch, hemos establecido, además de los protocolos editoriales habituales, el sometimiento de estos a revisión ex ante por parte de dos pares académicos expertos. Este procedimiento redunda en la idoneidad de las obras que finalmente serán publicadas.

Este libro se realiza en el marco del Proyecto de Investigación de Excelencia “Prometeo” (Generalitat Valenciana) 2018/111 (Claves de la Justicia Civil y Penal en la sociedad del miedo: Feminización, Inteligencia Artificial, Supranacionalidad, Eficiencia y “Securitización”)

TEORÍA Segunda época Colección dirigida por Jorge Cerdio

© TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email:tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es ISBN: 978-84-1378-666-7 Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro procedimiento de quejas. Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf

Pero, ¿y qué tiene esto que ver con aquello que estaba pensando? Nada, y por eso me permito pensarlo Fernando Pessoa (Libro de desasosiego) El aprendizaje no es importante, sobre todo ahora que tenemos tantos medios de conocimiento e información; lo importante es crear libertad intelectual y capacidad de pensar Emilio Lledó Quien pretenda trascender al hombre a favor del superhombre en realidad está despreciando la vida Markus Gabriel

Índice Prólogo............................................................................................ 15

Capítulo I TECNOLOGÍA E INTELIGENCIA ARTIFICIAL: ENTRE LA RAZÓN Y EL SENTIMIENTO 1. CIENCIA,TECNOLOGÍAY SISTEMA JURÍDICO, UNA FUSIÓNA LO LARGO DE LA HISTORIA.......................................................................... 27 2. ESPECIAL REFERENCIA HISTÓRICA A LAS REVOLUCIONES INDUSTRIALES (PRIMERA, SEGUNDA Y TERCERA)............................................ 42 2.1. Primera Revolución Industrial...................................................... 43 2.2. Segunda Revolución Industrial..................................................... 53 2.3. Tercera Revolución Industrial...................................................... 55 3. CUARTA REVOLUCIÓN INDUSTRIAL (4.0.) E IRRUPCIÓN DE LA INTELIGENCIA ARTIFICIAL................................................................... 58 3.1. Escenario adecuado para el 4.0.: la Globalización, la sociedad de masas y la sociedad de consumo, bajo el paraguas neoliberal............................... 60 3.2. Retrato de la Revolución Industrial 4.0........................................... 67 4. PENSAMIENTO, INTELIGENCIA Y ALGUNAS REFLEXIONES EN TORNO AL ORIGEN Y FUNDAMENTO DE LAS MÁQUINAS INTELIGENTES........ 76 4.1. Reflexiones previas................................................................... 78 4.2. Pensadores y pensamientos.......................................................... 83 5. INTELIGENCIA ARTIFICIAL EN LA ACTUALIDAD. ACLARACIONES CONCEPTUALES Y ALGUNOS EXPONENTES DE LA MISMA....................... 92 5.1. Del término genérico a su concreción paulatina................................. 92 5.1.1. No existe única definición.................................................. 93 5.1.2. Máquinas emuladoras de funciones cognitivas humanas. “Maschine learning”....................................................................... 95 5.1.3. ¿Cómo aprenden las máquinas? Los algoritmos......................... 99 5.2. Modalidades y aplicaciones de la Inteligencia Artificial: débil o fuerte...... 105 5.3. Acciones humanas de la Inteligencia Artificial. Múltiples manifestaciones y tres niveles de interacción máquina-Humanidad................................ 109 5.4. De la Smart City a la Smart Vida. Su anverso y reverso........................ 120

Índice

Capítulo II POLÍTICAS PÚBLICAS NACIONALES Y SUPRANACIONALES: PRINCIPIOS DE ACTUACIÓN DE LA INTELIGENCIA ARTIFICIAL 1. POLÍTICAS PÚBLICAS Y ESTRATEGIAS, NECESIDAD INELUDIBLE......... 125 2. ORGANIZACIÓN PARA LA COOPERACIÓNY DESARROLLO ECONÓMICOS (OCDE)................................................................................ 128 2.1. Principios para la administración responsable de una Inteligencia Artificial confiable................................................................................ 130 2.2. Políticas nacionales y de cooperación internacional............................. 132 3. OMPI E INTELIGENCIA ARTIFICIAL................................................. 134 4. CONSEJO DE EUROPA. DOCUMENTOS DEL CEPEJ........................... 137 4.1. Guidelines on how to drive change towards Cyberjustice 2016.............. 141 4.2. European ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their environment 2018 (Código ético europeo del Consejo de Europa)............................................................................. 143 5. INTELIGENCIA ARTIFICIAL EN LA UNIÓN EUROPEA......................... 148 5.1. Normas sobre protección de datos en la Unión Europa; especial referencia a la Directiva (UE) 2016/689 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, y al Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016.............................................. 154 5.2. Dictamen del Comité Económico y Social Europeo sobre IA de 2017...... 158 5.3. Plan coordinado para fomentar el desarrollo y la utilización de la inteligencia artificial en Europa de 2018......................................................... 159 5.4. Conclusiones del Consejo relativas al Plan Coordinado (2019)............... 161 5.5. Más esfuerzos desde las diversas instituciones europeas........................ 166 5.5.1. Agencia Europea de Robótica e Inteligencia Artificial................. 168 5.5.2. Código de Conducta ética y referencia a los sesgos.................... 169 5.5.3. Estatuto de persona electrónica o e-persona............................ 174 5.5.4. ¿Responsabilidad?............................................................ 177 5.5.5. Registro Europeo de robots inteligentes................................. 186 5.6. Estrategia Digital Europea........................................................... 186 5.7. El Libro Blanco sobre la Inteligencia Artificial: un enfoque europeo orientado a la excelencia y la confianza........................................................ 190

Capítulo III SOFTWARE, ALGORITMOS Y DERECHO 1. REFLEXIONES GENERALES SOBRE LA APARICIÓN DE LOS DATOSY LAS APLICACIONES (APP)................................................................... 209 1.1. Punto de partida: Los datos y su tratamiento. Protección y responsabilidad....................................................................................... 211

Índice

1.2. Exponentes anejos a los datos y su fascinante y polimorfa aplicación. De las cookies a las “Apps”................................................................... 221 1.2.1. Aplicaciones en el mundo laboral; especial referencia a la gig economy............................................................................ 223 1.2.2. En el mundo empresarial................................................... 225 1.2.3. En el sector público.......................................................... 226 1.2.4. En el ámbito de ocio......................................................... 228 1.2.5. En el sector de la comunicación y relación interpersonal............. 228 1.2.6. En sede educativa............................................................ 229 1.3. Especial referencia al sector sanitario. Reflexiones en torno a sus aplicaciones en casos como el del coronavirus. Dilema derechos versus salud pública... 230 1.3.1. Artefactos, aplicaciones y Big data......................................... 231 1.3.2. ¿Avances a cualquier precio?............................................... 235 1.3.3. Dilema entre derechos y libertades versus salud pública: esquizofrenia entre la resistencia y la fascinación........................................ 238 2. NUEVOS CONCEPTOS JURÍDICOS Y NUEVAS RELACIONES JURÍDICAS CON LOS MODELOS COMPUTACIONALES...................................... 248 2.1. De las tecnologías de la información al heterotópico ciberespacio........... 250 2.2. Desafíos de las máquinas en el mundo laboral................................... 255 2.3. Naturaleza jurídica de la inteligencia artificial, la inquietante figura del “cyborg”, responsabilidad, fiscalidad, contratación, registro. Smart-contract, Bitcoin, Blockchain, mercados y modelos de gobernanza...................... 260 2.3.1. Naturaleza jurídica y estatuto de la máquina inteligente. Algunas reflexiones acerca de su responsabilidad, obligaciones fiscales y registro........................................................................ 260 2.3.2. Cyborg (cybernetic organism) y la aparición del transhumanismo.. 272 2.3.3. En el ámbito específico de la contratación. De la contratación con o entre agentes inteligentes a los Smart contracts........................ 284

Capítulo IV NUEVO HABITAT CIBERNÉTICO, CADA VEZ MÁS ALGORÍTMICO 1. PROBLEMAS DE GOBERNANZA JURÍDICA DEL CIBERESPACIO. LA INCIDENCIA DEL PREFIJO “CIBER” EN EL MUNDO JURÍDICO................ 299 2. NECESIDAD DE COORDINACIÓN INTERNACIONAL. ALGUNOS INSTRUMENTOS INTERNACIONALES.................................................. 308 3. CIBERCRIMINALIDAD Y CIBERDELITOS........................................... 315 3.1. Ciberamenazas y los ciberriesgos en la ciberdelincuencia...................... 317 3.2. ¿Qué debe considerarse ciberdelito?.............................................. 322 3.3. Consecuencias de la ciberdelincuencia............................................ 331 4. MÉTODOS Y TÉCNICAS PARA PREVENIR Y COMBATIR LA CIBERCRIMINALIDAD.................................................................................... 333 5. REFERENCIA ESPECIAL AL CIBERTERRORISMO................................ 337

Índice

CapítuloV METAMORFOSIS DE LA JUSTICIA Y SUS OPERADORES EN EL ECOSISTEMA DIGITAL 1. REFLEXIONES GENERALES............................................................ 344 2. PRIMERA FASE: DE CÓMO LATECNOLOGÍA IRRUMPIÓ EN LA JUSTICIA EN LA GESTIÓN Y ORGANIZACIÓN................................................ 349 3. Y LLEGARON LOS ALGORITMOS A LA PROFESIÓN JURÍDICA............. 357 3.1. Primeras manifestaciones computacionales asistenciales al Derecho.Aparición de la Artificial Legal Intelligence................................................... 363 3.2. Jurimetría o Legal Decision Support System. Hacia una función predictiva........................................................................................ 365 3.3. Sistemas expertos (Legal Expert Systems). De la función asistencial a la función sustitutoria. Alarma y acción.............................................. 374 3.3.1. Modelos computacionales con o sin asistencia de expertos humanos en el mundo jurídico. Función argumentativa y cognitiva............. 375 3.3.2. Posibles actividades realizadas en el mundo jurídico por sistemas computacionales.............................................................. 380 3.3.3. Y de nuevo la responsabilidad del operador jurídico asistido o sustituido por la máquina inteligente........................................... 388 4. ¿PUEDEN LOS ALGORITMOSY LA INTELIGENCIA ARTIFICIAL ALTERAR LOS PRINCIPIOS DEL PROCESO Y DEL PROCEDIMIENTO?.................. 390 4.1. En los principios del procedimiento............................................... 391 4.1.1. En relación con la oralidad-escritura..................................... 392 4.1.2. La inmediación como garantía procedimental........................... 398 4.1.3. Principio de concentración................................................. 402 4.1.4. Principio de publicidad...................................................... 403 4.2. En los principios del proceso....................................................... 405 4.2.1. Fundamentos de la existencia del proceso............................... 406 4.2.2. Principios del proceso....................................................... 411 4.2.2.1. Posible adecuación y adaptación a los principios del proceso civil................................................................. 411 4.2.2.2. Inquietante mutación de algunos de los principios del proceso penal...................................................... 415

CapítuloVI JUSTICIA PREDICTIVA Y MAXIMIZACIÓN DE LA PREVENCIÓN Y LA SEGURIDAD, BUEN MARIDAJE CON LA INSTRUMENTAL INTELIGENCIA ARTIFICIAL POLICIAL 1. PRIMERA PREMISA: LA SOCIEDAD DEL MIEDO AL MIEDO Y EL CONTROL SOCIAL, MARCO ADECUADO PARA LA PANDEMIA PREDICTIVA Y PREVENTIVA............................................................................ 424

Índice

2. SEGUNDA PREMISA: PRINCIPIO PRECAUTORIO (Y SÍ) Y MEDIDAS DE SEGURIDAD CIUDADANA............................................................. 435 3. DE LA FUNCIÓN PREDICTIVA ALGORÍTMICA A LA FUNCIÓN PREVENTIVA........................................................................................... 443 3.1. El método predictivo, Data Mining, Hotspots y sesgos. Anverso y reverso. 445 3.2. Predicción y prevención, principio precautorio y algoritmos. Retrato de la “hipervigilancia” algorítmica en la sociedad COVID-19........................ 462 4. Y CON ELLOS LLEGÓ EL ESCÁNDALOY/O LA FASCINACIÓN: LOS DATOS BIOMÉTRICOS DE RECONOCIMIENTO DE PERSONAS: ¿PREDICCIÓN, PREVENCIÓN, INVESTIGACIÓN?.................................................... 476 4.1. Datos biométricos: Noción, usos y aplicaciones................................. 476 4.2. Tipología de técnicas biométricas. Especial referencia al reconocimiento facial..................................................................................... 479 4.3. Protección de datos biométricos................................................... 495

CapítuloVII Y TAMBIÉN INVESTIGACIÓN PENAL CON VIGILANCIA POLICIAL PREDICTIVA Y SISTEMAS INTELIGENTES ACTIVOS: NUEVOS PROTAGONISTAS, NUEVAS DILIGENCIAS O REFORMULADAS Y NUEVO MODUS OPERANDI 1. NUEVOS PROTAGONISTAS: POLICÍA, SERVICIOS SECRETOS ESTATALES Y TERCEROS INVESTIGADOS......................................................... 504 1.1. Policía, servicios de inteligencia y secretos estatales y “prueba pericial inteligente”, ¿quiebra de un proceso con todas las garantías?...................... 504 1.2. Extensión del ámbito subjetivo de investigación................................. 509 2. VIGILANCIA POLICIAL, AGENTE ENCUBIERTO, SOFTWARE DE MONITORIZACIÓN, ENTRE LOS ELEMENTOS DEL NUEVO PARADIGMA EN LA INVESTIGACIÓN PENAL (ALLENDE PREVENTIVA)........................ 511 2.1. Vigilancia policial preventivo-investigadora y el agente encubierto.......... 512 2.2. En consecuencia…llegaron la tecnología y los algoritmos a la investigación penal. Medidas de investigación tecnológica..................................... 519 3. EL SIEMPRE COMPLEJO EQUILIBRIO CON LOS DERECHOS. LA ABSOLUTA NECESIDAD DEL CONTROL JUDICIALY RESPETO A LOS PRINCIPIOS CONSTITUCIONALES Y LEGALES.................................................... 534

CapítuloVIII ARGUMENTACIÓN JURÍDICA, PRUEBA, JUDICIAL DECISIÓN Y ROBOTIZACIÓN JUDICIAL: HACIA LA SMART JUSTICE 1. ARGUMENTACIÓN JURÍDICA O EN BUSCA DE UN “PENSAR COMO JURISTA” (ATIENZA DIXIT)............................................................ 550

Índice

1.1. De las reglas heurísticas al pensar como jurista, punto de partida............ 550 1.2. ¿Piensan como juristas los sistemas asistenciales con o sin argumentación, con o sin motivación?................................................................ 554 1.3. Algunas reflexiones sobre el significado de “pensar como jurista”............ 563 1.3.1. Argumentar. Clases.......................................................... 563 1.3.2. El lenguaje y el pensamiento............................................... 578 1.3.3. Conclusión: ¿sistemas algorítmicos como pensadores jurídicos inteligentes?........................................................................ 585 2. PRUEBA...................................................................................... 587 2.1. Triada subjetiva en la prueba........................................................ 589 2.2. La prueba científica y su intrínseca relación con los sistemas algorítmicos con eficacia procesal.................................................................. 595 2.3. Valoración de la prueba y motivación judicial, con especial referencia a la prueba científica. Relevancia y fiabilidad.......................................... 602 3. ROBOTIZACIÓN JUDICIAL O LA BÚSQUEDA DEL SUPERYÓ, SADIN DIXIT......................................................................................... 610 3.1. Factores que inciden en la decisión judicial....................................... 612 3.1.1. La norma, y su aplicación al caso concreto, y los “precedentes”. Referencia a la presunción de inocencia y a la regla del in dubio pro reo.............................................................................. 612 3.1.2. Predisposición subjetiva del juez: de los afectos a los sesgos.......... 620 3.2. Decisión judicial = valoración probatoria + argumentación + motivación + proporcionalidad y derechos..................................................... 625 3.3. Manifestaciones de inteligencia artificial soft en la función jurisdiccional: de las Guidelines a la predictibilidad............................................... 628 3.4. Un paso más hacia la robotización judicial........................................ 642 3.5. Imperfección o divinidad. ¿Cómo garantizar la aplicación del derecho al caso concreto desde la proporcionalidad, la imparcialidad y la independencia?.. 652 4. SMART EJECUCIÓN Y SMART PRISONS............................................ 664 4.1. Inteligencia artificial y ejecución civil............................................. 665 4.2. Ejecución penal y Smart prisons................................................... 675 4.2.1. Ejecución penal computacional............................................ 676 4.2.2. Smart prisons................................................................. 683 BIBLIOGRAFÍA................................................................................. 687

Prólogo La irrupción en los medios de comunicación, en los foros de todo tipo, económicos, jurídicos, científicos, tecnológicos, sanitarios, etc, de lo que se viene denominando como inteligencia artificial, despertó en mí la necesidad de entender qué se entiende por tal, de dónde parte, y hacia dónde va, o mejor hacia dónde vamos. Solo desde el entendimiento de estas premisas es posible comprender esa profusa actividad legislativa que nos inunda, tratando de otorgar cuerpo jurídico a una realidad que crece sin parar, que anda mucho más veloz que la mente legislativa, en ocasiones como instrumental, en otras, como apoyo y, en otras, con una capacidad de decisión sustitutoria de actividades que, ora son molestas, oras son complejas. Pero lo que es indudable es que la tecnología ha llegado para quedarse y su incidencia en la Justicia es transversal, pero penetrante, transformando desde lo más profundo, y más allá del valor vehicular que pueda adoptar, el sistema jurídico. En lo más estrictamente personal debo confesar que el interés por el análisis de la digitalización, la computarización (inteligencia artificial) y transformación jurídica germinó en un momento en el me encontraba en la Universidad de Cambridge en el año 2016, escribiendo mi libro Proceso Penal desde la Historia. Desde sus orígenes hasta la sociedad del miedo. El sosiego que me generaba elaborar la obra sobre el proceso penal no me ha acompañado en la elaboración de este libro, que lo he vivido con enorme desasosiego. ¿Y por qué el año 2016 fue decisivo? Precisamente, fue en el año 2016 cuando leí, por motivos maternales, el trabajo Understanding the impacts of Industry 4.0. on suply chain management, elaborado como Msc Thesis por mi hija Carmen, ingeniera industrial, que lo defendió en el marco del Master Manufacturing and Transport, Manufacturing Consultancy que realizó en la School of Aerospace (Cranfield University). La lectura de su trabajo y especialmente —de lo que podía entender— del impacto del 4.0. ya producido y el que se avizoraba inminente, me generó un enorme desazón emocional y me impulsó a interesarme por la aplicación en el mundo jurídico. A medida que buceaba en estas aguas procelosas me convencía de la necesidad de estudiar, desde diversas perspectivas —porque se trata de un ámbi-

Silvia Barona Vilar

to de absoluta transversalidad— qué era esto, por qué, para qué y hacia dónde caminamos. Mucho de proceso sociológico anida en esta irrupción y en la fascinación que parece invadir a un gran público. Probablemente porque la Humanidad necesita de un cierto encantamiento o admiración, allende la Humanidad misma. Max WEBER acuñó el término desencantamiento del mundo (die Entzauberung), precisamente al referirse a la fuerza que el pensamiento racional asumió en la sociedad occidental, modernizada, secularizada y burocratizada, y cómo desde la comprensión científica se fue poco a poco devaluando el misticismo y la sacralización de la vida y la sociedad, hasta conseguir lo que DURKHEIM denominaba la liberación del individuo de las ataduras que lo sujetan en la sociedad. Curiosamente, esta evolución sociológica, fruto del proceso científico-tecnológico que fundó el pensamiento racional, generó horfandad en multitud de personas. La Humanidad necesita ilusión, magia, fantasía, en ocasiones convertida en superchería; otras, en miedos y conspiranoia. Esa necesidad es innata al ser humano y simultáneamente alimentada por quienes pueden de este modo controlar mejor, manipular, potenciar las habilidades del superhombre, alimentar falsas creencias de protección y seguridad y un largo etcétera —lo hemos visto especialmente en la época del confinamiento por COVID-19—. Hemos asistido a la fascinación por los superhombres y la necesidad de sabernos bajo control. Poco nos ha durado en la Humanidad la etapa de la libertad de decidir qué queremos ser y quién queremos ser. Probablemente la irrupción primero, y el posterior encantamiento por la magia digital, los algoritmos y cada vez más por los sistemas computacionales “inteligentes” (¿?) y su incorporación en una sociedad sin asideros, vacua, líquida y desnortada, ha encontrado tan sencillo acomodo. Es esa magia hacia lo desconocido, que nos obnubila, nos encanta, nos fascina, nos genera una sensación de que alguien por encima de nosotros es más, es superhumano, es líder, es quien decide, ayuda, colabora y en muchos casos sustituye la fastidiosa tarea de asumir responsabilidad directa de nuestros actos, de ejercer nuestra libertad. Es la tecnología la que mueve los hilos de la sociedad actual, y nos lleva, como apunta HORVART, hacia una nueva forma de totalitarismo, ge-

Prólogo

nerando lo que el denomina una servidumbre maquínica, tomando prestado el término del filósofo italiano Maurizio LAZZARATO. Aun cuando la dependencia maquínica se gestó en el Siglo XX y, muy especialmente en las décadas finales del mismo, ha sido muy probablemente en el Siglo XXI cuando hemos visto emerger, expandirse y crecer imparablemente el desafío tecnológico, mezcla de “inteligencia artificial” y de “tecnología autónoma” (drones, automóviles autónomos, robots, agentes de software, bots, y un largo etcétera), que han abrigado esperanzas e incluso fanatismos en algunos, alimentando un mundo de superinteligencias que permitirán superar la especie humana; en otros, una gran negocio, especialmente para los mercados tecnológicos y las grandes multinacionales del ramo; para la mayoría, un conjunto de software de códigos escritos por humanos para, según los ojos con los que se mire, mejorar la vida humana, reducir los esfuerzos humanos, perder puestos de trabajo, explotar a otros humanos, etc. De todo hay. Lo que es indudable es que, bajo todos estos nuevos artefactos tecnológicos, que emulan el pensamiento humano, ha emergido una nueva ideología vital en el planeta; una ideología que han sabido identificar filósofos como Markus GABRIEL, aquella que nace para “tener bajo control al proletariado digital” o lo que Byung-Chul-HAN denomina enjambre digital, o lo que Eric SADIN denomina humanidad aumentada. Esa fascinación tecnológica necesita paralelamente un esfuerzo por mantener los valores y derechos del ser humano; muchos de ellos arrebatados y, lo peor, cedidos voluntariamente por los mismos seres humanos —basta pensar en la donación de datos diaria que se hace—; una dejación que debe ser, en todo caso, indiscutiblemente reversible. Asistimos a una cada vez más avanzada tecnología, que se adentra en la esfera personal, íntima de las personas, y lo hace a través de herramientas cognitivas que, además, cada vez son más opacas, dado que, allende los supuestos de programación humana, se presentan sistemas que pueden aprender a realizar tareas complejas sin la instrucción o supervisión humana, y es lo que se denomina autónomos (robots de alta tecnología o software inteligentes como los bots). Con todos estos datos, la crisis de la Humanidad está servida. Los sistemas algorítmicos controlados humanamente y los que carecen de

Silvia Barona Vilar

supervisión humana han inundado nuestras vidas, adquiriendo un enorme poder en la sociedad del siglo XXI, un poder económico-privado, dado que las capacidades avanzadas de la misma están acumulándose y concentrándose en manos del sector privado y, por lo general, con derechos exclusivos. Y esto es muy probablemente el eje que debe nuclear la crítica a la ausencia de control público o a la superposición de lo privado por lo público. Esto altera el sistema jurídico en su conjunto. Es imprescindible blindar los derechos humanos para evitar explotaciones, y es imprescindible trabajar una larga lista de conceptos que nos afectan como juristas, dado que, además de la regulación supranacional (dado que en muchos casos trasciende las fronteras) en torno a la posible responsabilidad por las actuaciones realizadas por los artefactos o estructuras “inteligentes” y autónomas, existe un enorme número de cuestiones sobre las que debemos preocuparnos, y no solo porque el entorno tecnológico está generando el uso instrumental de la tecnología en la realización de conductas con consecuencias jurídicas —que también—, sino porque provoca un cambio del modus operandi jurídico, con nuevos protagonistas, nuevas normas, nuevas maneras de actuar, nuevos tiempos y nuevos lugares. Es harto complicado tratar de ofrecer respuestas a los múltiples interrogantes que emergen en el ámbito jurídico como consecuencia de la irrupción de la tecnología. No es nuestra intención acometer esta tarea, empero sí presentar algunas ideas sobre el momento en el que surge y sus coordenadas sociológico-económicas, amén de ir poco a poco tratando de exponer aquellos ámbitos jurídicos en los que el despliegue tecnológico incide. Todo y que a nuestro parecer el mundo de la Justicia queda alterado desde sus cimientos, tanto en sus protagonistas, como en sus instrumentos, como en sus principios, como en el control público, como en su manera de actuar, como en las consecuencias jurídicas derivadas de actuaciones de sistemas computacionales. La tecnología puede favorecer, garantizar, simplificar y ofrecer un mayor acceso a la Justicia, empero también puede negar, restringir o limitar derechos, y puede deconstruir el mismo modelo de Justicia. Quizás ya lo está haciendo. Ahora bien, no podemos caer en la autocomplacencia de que la “Justicia con manguitos” es mejor que la “Justicia con algoritmos”. Es impor-

Prólogo

tante saber que aquellas estrellas que alguna vez marcaron nuestro comienzo, ahora se marchan (DANTE ALIGHIERI), produciéndose una transformación de “lo paradigmático” pasado, para evolucionar hacia un nuevo paradigma. Ahora bien, hay que saber colocarse, asentar los pies en la tierra, en este mundo presencial, no en el cibernético e ideal, y saber que en lugar de dramatizar y gimotear por un posible conflicto entre humanos y máquinas, entre la Humanidad y los algoritmos, es mucho mejor trabajar como si de una pareja se tratare, lo que ofrece un efecto de retroalimentación y de influencia mutua, en lo bueno y en lo malo. Esta sociedad de cálculo estadístico que nos acompaña ha propulsado un emparejamiento entre los sistemas tecnológicos y la capacidad de actuación de los humanos. Como señala CARDON, aún hay tiempo para decirles a los algoritmos que nosotros no somos la suma imprecisa e incompleta de nuestros comportamientos1, a lo que añado, somos más, somos la energía y la fuerza que da la imperfección y el generar instantes y actuaciones singulares, propias, idóneas, quizás erróneas, pero a la postre, un mundo donde los humanos nos sabemos mejorables y en el que los algoritmos pueden aportar, ciertamente, buena parte de esa asistencia de mejora que nos hace falta. Ni más, ni menos. Hay que estar atentos y caminar hacia una humanidad mejor, pero siempre desde la mirada y con el eje central e indiscutible de los derechos humanos. Este mundo innovativo digital y tecnológico ha arrastrado todo lo que ha encontrado a su paso; ha cambiado estructuras, sistemas, procedimientos, personas y también derechos. Una necesidad insoslayable de seguir construyendo también en este escenario digital un muro infranqueable de derechos se hace presente. La cultura digital de masas ha barrido derechos fundamentales como el derecho a la intimidad, a la privacidad, al honor, y un largo etcétera, y poco a poco está cercenando también el derecho a la libertad, alimentándose desde una perspectiva difícil de rebatir, pero no imposible, de que la inteligencia artificial, el mundo digital, mejora al ser humano, implica progreso y avances que solo pueden redundar en el ser humano.

CARDON, D., Con qué sueñan los algoritmos, cit., p. 132.

Silvia Barona Vilar

Sin dudar de los enormes beneficios y ventajas que el mundo digital está aportando, se amontonan múltiples cuestiones que deben igualmente plantearse: los derechos de las personas, la cada vez mayor superioridad de unos pocos (empresas, lobbies, siempre sectores económicos y países de gran potencialidad económica), que se permitirán manipular ideas, políticas, pensamientos, culturas, consumos, etc. La imperfección del ser humano es uno de los grandes atractivos de la humanidad. La perfección genera uniformidad, manipulación, control, despersonalización y un largo etcétera. Son numerosas las dudas y las inquietudes que estremecen ante esta realidad tecnológica. Los algoritmos han penetrado de forma silenciosa, sin apenas darnos cuenta, en nuestras vidas, y lo han hecho de la mano de la empresa privada, si bien no nos imponen, sino que nos proponen. Son fruto del progreso, un progreso que no solo debe asentarse en la combinación de ciencia y tecnología explotadas desde un punto de vista comercial e industrial, sino que debe permitir seguir manteniendo el timón de nuestras vidas, lo que se realizará siempre que no pueda defenderse, en palabras de GABRIEL, la superioridad tecnológica de las naciones industrializadas avanzadas2. De lo contrario, caminaremos inexorablemente hacia la destrucción de los derechos y del ser humano. No es fácil. El mundo construido por la tecnología se presenta como exquisitamente flexible, fluido, rebosante de oportunidades y resistente a cualquier fijación, si bien, como apunta BAUMAN, también se presenta como moldeable, vulnerable e indefenso, presa fácil del ingenio y del knowhow tecnológico, un campo fértil para apetitos insaciables3. La tecnología se ha presentado para mejorar la sociedad que vivimos, emergiendo con poderes milagrosos, como una irrupción de eficiencia que permite ordenar el cosmos, frente al desorden provocado por el ser humano4. Tecnología significa fragmentación, de la vida en una sucesión de problemas, del yo en un grupo de facetas que generan problemas, cada uno de los cuales requiere diferentes técnicas y grupos de expertos. Una vez que ha concluido el

4 3

GABRIEL, M., El sentido del pensamiento, cit., pp. 358-359. BAUMAN, Z., Posmoderne Ethik, Hamburgo, Hamburger edition, 1995, p. 290 BAUMAN, Z., Posmoderne Ethik, cit., p. 291.