alternativa
124 Silvia Barona Vilar
PROMETEO 2018/111
Una mirada multidisciplinar
alternativa
Justicia algorítmica y neuroderecho Silvia Barona Vilar (Editora)
(Editora)
124
Justicia algorítmica y neuroderecho Una mirada multidisciplinar
alternativa
Los algoritmos y la Inteligencia Artificial nos acompañan en numerosas actividades diarias. Su extensión a la Justicia no se ha hecho esperar. Asistimos a lo que los autores de esta obra denominan “Justicia algorítmica y neuroderecho”. Conceptos nuevos, necesidad de un marco ético, la posición de la UE en un entorno de mayor permisibilidad de desarrollos tecnológicos con consecuencias jurídicas innegables, la irrupción y adaptación de herramientas algorítmicas y modelos computacionales analíticos y predictivos con aplicación en el proceso, ofreciendo criterios “estadísticos” de fiabilidad de testigos, de valoración de la prueba, previsibilidad de reincidencia, sesgos, cajas negras y opacidad de los sistemas, afectación de derechos y consecuentes discriminaciones, incorporación de los sistemas biométricos y la absoluta necesidad de protección de datos personales y de su incidencia en el proceso penal en particular, así como la justicia automatizada y camino hacia la robotización judicial, y no solo judicial sino también arbitral, posibilidad de modelos “multi-door-Justice-System IA”, son los múltiples, inquietantes y atractivos temas que son abordados en los diversos capítulos por los prestigiosos académicos nacionales e internacionales que participan, y lo hacen desde una visión general o global, amén de sectorial, refiriéndose a la incidencia en sectores específicos de estas aplicaciones algorítmicas (menores, consumo, propiedad intelectual, sector público o inversiones extranjeras). Una obra que no deja indiferente.
JUSTICIA ALGORÍTMICA Y NEURODERECHO Una mirada multidisciplinar
PROMETEO 2018/111
COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH María José Añón Roig
Javier de Lucas Martín
Ana Cañizares Laso
Víctor Moreno Catena
Catedrática de Filosofía del Derecho de la Universidad de Valencia Catedrática de Derecho Civil de la Universidad de Málaga
Jorge A. Cerdio Herrán
Catedrático de Teoría y Filosofía de Derecho Instituto Tecnológico Autónomo de México
José Ramón Cossío Díaz
Ministro en retiro de la Suprema Corte de Justicia de la Nación y miembro de El Colegio Nacional
Eduardo Ferrer Mac-Gregor Poisot Juez de la Corte Interamericana de Derechos Humanos Investigador del Instituto de Investigaciones Jurídicas de la UNAM
Owen Fiss
Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)
José Antonio García-Cruces González Catedrático de Derecho Mercantil de la UNED
Luis López Guerra
Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid
Ángel M. López y López Catedrático de Derecho Civil de la Universidad de Sevilla
Marta Lorente Sariñena
Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid
Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid
Francisco Muñoz Conde
Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla
Angelika Nussberger
Catedrática de Derecho Constitucional e Internacional en la Universidad de Colonia (Alemania) Miembro de la Comisión de Venecia
Héctor Olasolo Alonso
Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)
Luciano Parejo Alfonso
Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid
Tomás Sala Franco
Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia
Ignacio Sancho Gargallo
Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España
Tomás S. Vives Antón
Catedrático de Derecho Penal de la Universidad de Valencia
Ruth Zimmerling
Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)
Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales
JUSTICIA ALGORÍTMICA Y NEURODERECHO Una mirada multidisciplinar
SILVIA BARONA VILAR Editora
tirant lo blanch Valencia, 2021
Copyright ® 2021 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor. En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com.
Este libro se ha realizado con el patrocinio y en el marco del Proyecto de Investigación de Excelencia PROMETEO 2018/111 (Claves de la Justicia Civil y Penal en el sociedad del miedo: feminización, Inteligencia Artificial, Supranacionalidad, Eficiencia y “Securitization”) de la Generalitat Valenciana
© Silvia Barona Vilar (editora)
© TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email:tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es ISBN: 978-84-1397-202-2 MAQUETA: Tink Factoría de Color Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-deempresa nuestro procedimiento de quejas. Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf
AUTORES Silvia Barona Vilar José Bonet Navarro Raquel Borges Blázquez Sebastián Bozzo Hauri M. José Catalán Chamorro Mª Angeles Catalina Benavente Ignacio Colomer Hernández Montserrat de Hoyos Sancho Iñaki Esparza Leibar Carlos Esplugues Mota José Francisco Etxeberría Guridi Patricia Faraldo Cabana Juan Luis Gómez Colomer Vicente Guzmán Fluja
Fernando H. Llano Alonso Hernán López Hernández Fernando Martín Diz Elena Martínez García Ana Montesinos García Sabela Oubiña Barbolla Guillermo Palao Moreno M. Josune Pérez Estrada Esther Pillado González Andrea Planchadell Gargallo Rebeca Remeseiro Reguero Isadora Neroni Rezende Stefano Ruggieri Elisa Simó Soler
Alba Soriano Arnanz
Índice PRÓLOGO................................................................................................................ 17 Silvia Barona Vilar
UNA JUSTICIA “DIGITAL” Y “ALGORÍTMICA” PARA UNA SOCIEDAD EN ESTADO DE MUDANZA Silvia Barona Vilar
I. PUNTO DE PARTIDA: UN ENTORNO ADECUADO PARA LA MUDANZA: MODERNIDAD, POSTMODERNIDAD Y GLOBALIZACIÓN.................... 21 II. BONDADES Y RIESGOS DE LA METAMORFOSIS DIGITAL Y COMPUTACIONAL DE LA JUSTICIA....................................................................... 26 III. REALIDADES COMPUTACIONALES “ALGORÍTMICAS” QUE AFECTAN AL MUNDO DE LA JUSTICIA...................................................................... 30 IV. ALGORITMOS PREDICTIVOS POLICIALES. LA HIPERVIGILANCIA... 37 V. ALGORITMOS EN LA INVESTIGACIÓN PENAL...................................... 41 VI. ALGORITMOS Y JUECES: ¿ASISTENCIALES, COMPLEMENTARIOS O SUSTITUTORIOS?........................................................................................ 43 VII. ALGORITMOS Y EJECUCIÓN..................................................................... 54 VIII. CONCLUSIÓN............................................................................................... 58 MODELOS DE APLICACIÓN DE INTELIGENCIA ARTIFICIAL EN JUSTICIA: ASISTENCIAL O PREDICTIVA VERSUS DECISORIA Fernando Martín Diz
I. UNA JUSTICIA “INTELIGENTE” PARA EL SIGLO XXI........................... 65 II. DERECHOS FUNDAMENTALES E INTELIGENCIA ARTIFICIAL: EXIGENCIAS INELUDIBLES.............................................................................. 74 III. EL MODELO DE JUSTICIA INTELIGENTE: ¿ASISTENCIAL O PREDICTIVA VERSUS DECISORIA?.......................................................................... 80 IV. CONCLUSIÓN............................................................................................... 84 NEURODERECHO, NEUROABOGADO, NEUROJUSTICIA: UNA REALIDAD INNEGABLE Hernán López Hernández
I. INTRODUCCIÓN.......................................................................................... 87 II. ORIGEN DEL TRINOMIO NEURODERECHO, NEUROABOGADO/A Y NEUROJUSTICIA....................................................................................... 89 III. CONCLUSIONES.......................................................................................... 105
10
Índice
ÉTICA DE LA INTELIGENCIA ARTIFICIAL EN EL MARCO JURÍDICO DE LA UNIÓN EUROPEA Fernando H. Llano Alonso
I. INTRODUCCIÓN.......................................................................................... 109 II. SOBRE EL CARÁCTER ANTROPOGÉNICO Y ANTROPOCÉNTRICO DE LA INTELIGENCIA ARTIFICIAL........................................................... 114 III. LA NECESARIA REGULACIÓN DE LA INTELIGENCIA ARTIFICIAL CON LOS PRINCIPIOS ÉTICOS Y EL DERECHO DE LA UNIÓN EUROPEA... 117 IV. CONCLUSIONES.......................................................................................... 124 PREMISAS Y FINALIDES DEL LIBRO BLANCO SOBRE INTELIGENCIA ARTIFICIAL DE LA COMISIÓN EUROPEA: PERSPECTIVA PROCESAL DEL NUEVO MARCO REGULADOR Montserrat de Hoyos Sancho
I. INTRODUCCIÓN.......................................................................................... 129 II. CARACTERÍSTICAS CLAVE DEL NUEVO MARCO REGULADOR EN EL CONTEXTO DE LA UNIÓN EUROPEA............................................... 131 III. EJEMPLOS DE UTILIDADES DE HERRAMIENTAS BASADAS EN INTELIGENCIA ARTIFICIAL EN EL CONTEXTO DE LA ADMINISTRACIÓN DE JUSTICIA.................................................................................................. 138 IV. ALGUNAS CONCLUSIONES....................................................................... 146 LA INTELIGENCIA ARTIFICIAL EN EL PROCESO PENAL Y EL ¿REGRESO? DE LOMBROSO Raquel Borges Blázquez I. EL ESPACIO VIRTUAL COMO REFLEJO DEL ESPACIO FÍSICO............ 157 II. INTELIGENCIA ARTIFICIAL: DE LA UTOPÍA A LA DISTOPÍA.............. 160 III. BIAS IN, BIAS OUT: PREDECIR EL FUTURO MIRANDO AL PASADO.... 163 IV. ¿Y AHORA QUÉ? BREVE REFLEXIÓN A PROPÓSITO DEL USO DE LA INTELIGENCIA ARTIFICIAL EN EL PROCESO PENAL........................... 178 MACHINE LEARNING Y DERECHO: APRENDIENDO LA (DES)IGUALDAD Alba Soriano Arnanz Elisa Simó Soler I. BREVE INTRODUCCIÓN AL ENCUENTRO TECNOJURÍDICO............. 183 II. LA OMNIPRESENCIA DE IA EN NUESTRAS VIDAS................................. 184 III. LA CONSTRUCCIÓN DE LA SOCIEDAD Y EL DERECHO DESDE EL PARADIGMA DE LA DESIGUALDAD.......................................................... 188 IV. ESCENARIOS CONTROVERTIDOS: ALGORITMOS Y COLECTIVOS VULNERABLES.............................................................................................. 192 V. LA TECNOLOGÍA DEL BIEN COMÚN: IA AL SERVICIO DE LOS DERECHOS HUMANOS.................................................................................... 197 VI. A MODO DE CONCLUSIÓN O DECLARACIÓN DE INTENCIONES..... 203
Índice
11
JUSTICIA E INTELIGENCIA ARTIFICIAL SIN GÉNERO Elena Martínez García
I. EL DERECHO DE ACCESO A LA JUSTICIA DESDE LA PERSPECTIVA DE LA INTELIGENCIA ARTIFICIAL Y DE LAS MUJERES: REFLEXIONES GENERALES................................................................................................... 209 II. ¿PODRÍA LA TECNOLOGÍA Y LA INTELIGENCIA ARTIFICIAL MEJORAR LA JUSTICIA Y LAS GARANTÍAS PROCESALES?............................. 213 III. LA EXPLICACIÓN DE LAS DECISIONES ADOPTADAS POR INTELIGENCIA ARTIFICIAL PARA SABER SI HAY SESGO DE GÉNERO........... 223 IV. EL CONVENIO DE ESTAMBUL Y EL DEBER DE DILIGENCIA EXIGIBLE: TAMBIÉN EN LA JUSTICIA IMPARTIDA A TRAVÉS DE LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL................................................................. 224 V. CONCLUSIÓN............................................................................................... 227 ¿TIENE LA BIOMETRÍA SESGOS DE GÉNERO? SOBRE LA FALSA NEUTRALIDAD DE LOS MECANISMOS BIOMÉTRICOS DE IDENTIFICACIÓN Patricia Faraldo Cabana
I. INTRODUCCIÓN.......................................................................................... 229 II. “UNA TAREA INHERENTEMENTE PROBABILÍSTICA”.......................... 230 III. SECURITIZAR EL GÉNERO: DE LA ANTROPOMETRÍA CRIMINAL A LAS PRÁCTICAS ACTUALES DE VIGILANCIA.......................................... 233 IV. CONSTRUYENDO IDENTIDADES DE GÉNERO A TRAVÉS DE LA BIOMETRÍA.......................................................................................................... 235 V. CONCLUSIÓN............................................................................................... 239 UNAS REFLEXIONES SOBRE EL LLAMADO “JUEZ-ROBOT”, AL HILO DEL PRINCIPIO DE LA INDEPENDENCIA JUDICIAL Juan-Luis Gómez Colomer
I. INTRODUCCIÓN.......................................................................................... 243 II. LA INDEPENDENCIA JUDICIAL Y SU EVOLUCIÓN EN EL MUNDO TECNOLÓGICO............................................................................................ 243 III. LA REALIDAD ACTUAL: LOS PELIGROS DEL JUEZ-ROBOT................. 252 LA INTELIGENCIA ARTIFICIAL Y EL DERECHO FUNDAMENTAL A LA PROTECCIÓN DE DATOS DE CARÁCTER PERSONAL Iñaki Esparza Leibar
I. INTRODUCCIÓN, CONCEPTO Y NECESIDAD DE LA INTELIGENCIA ARTIFICIAL.................................................................................................... 265 II. APROXIMACIÓN A LA REALIDAD, EL ESCENARIO DE PARTIDA. EL PRESENTE...................................................................................................... 270
12
Índice
III. IMPULSO DE LA TECNOLOGÍA EN EL CAMPO DE LA JUSTICIA. INTELIGENCIA ARTIFICIAL Y PROTECCIÓN DE DATOS. EL ROL DE LA COMISIÓN EUROPEA, EN PARTICULAR, EL LIBRO BLANCO DE LA UE. EL FUTURO...................................................................................... 275 IV. PROTECCIÓN DE DATOS DE CARÁCTER PERSONAL, PROCESO PENAL Y ESTADO DE DERECHO. UN EJEMPLO..................................... 278 V. CONCLUSIONES Y PROPUESTAS.............................................................. 283 CONTROL Y LÍMITES EN EL USO DE LA INFORMACIÓN Y LOS DATOS PERSONALES POR PARTE DE LA INTELIGENCIA ARTIFICIAL EN LOS PROCESOS PENALES Ignacio Colomer Hernández
I. HACIA UN NUEVO PARADIGMA EN EL CONTROL DEL TRATAMIENTO DE LOS DATOS PERSONALES EN EL PROCESO PENAL POR LA INTERVENCIÓN DE LA INTELIGENCIA ARTIFICIAL............................ 287 II. CONTROL DE LA AUTORIDAD INDEPENDIENTE SOBRE EL TRATAMIENTO DE DATOS PERSONALES CON FINES PENALES A TRAVÉS DE ALGORITMOS......................................................................................... 293 III. CONCLUSIONES.......................................................................................... 306 CIRCULACIÓN DE DATOS PERSONALES Y TUTELA DE DERECHOS FUNDAMENTALES EN MATERIA DE JUSTICIA PENAL Stefano Ruggeri
I. INTRODUCCIÓN.......................................................................................... 309 II. EL MARCO SUPRANACIONAL. LA EVOLUCIÓN DE LA NORMATIVA DE LA UNIÓN EUROPEA EN MATERIA DE CIRCULACIÓN Y PROTECCIÓN DE DATOS PERSONALES EN EL ÁMBITO DE LA JUSTICIA PENAL............................................................................................................. 313 III. LA EVOLUCIÓN DEL DERECHO PROCESAL ITALIANO A LA LUZ DE LA IMPLEMENTACIÓN DE LA NORMATIVA EUROPEA........................ 324 IV. LIBRE TRANSFERENCIA DE DATOS PERSONALES Y LIBRE CIRCULACIÓN DE PRUEBAS PENALES. CONCLUSIONES................................ 332 LA IDENTIFICACIÓN DE PASAJEROS “SOSPECHOSOS” A TRAVÉS DEL TRATAMIENTO MASIVO DE SUS DATOS PNR Mª Ángeles Catalina Benavente
I. INTRODUCCIÓN: EL TRATAMIENTO MASIVO DE LA INFORMACIÓN DE VIAJE DE QUIENES SE DESPLAZAN POR LA UNIÓN EUROPEA ES YA UNA REALIDAD....................................................................................... 337 II. LOS DATOS PNR: ¿CUANTOS MÁS MEJOR?............................................. 341 III. EL LARGO PERIODO DE CONSERVACIÓN DE LOS DATOS PNR........ 348 IV. LA AUTORIDAD COMPETENTE PARA EL TRATAMIENTO DE LOS DATOS PNR: LA UNIDAD DE INFORMACIÓN SOBRE LOS PASAJEROS... 350
Índice
13
V. EL TRATAMIENTO AUTOMATIZADO DE LOS DATOS PNR................. 352 VI. CONCLUSIÓN............................................................................................... 359 PREDICTIVE POLICING: SAFEGUARDS FOR THE CHOICE OF DATA AND AUTOMATED PROCESSING IN THE PREVENTIVE CONTEXT Isadora Neroni Rezende I. INTRODUCTION.......................................................................................... 361 II. CIRCUMSCRIBING THE SCOPE OF THE RESEARCH............................. 374 III. SCRUTINIZING THE CHOICE OF DATA................................................... 376 IV. GUARANTEES SUBSEQUENT TO PROCESSING..................................... 381 V. CONCLUSIVE REMARKS............................................................................. 384 INTELIGENCIA ARTIFICIAL Y MEDIDAS CAUTELARES Andrea Planchadell-Gargallo I. CONSIDERACIONES PREVIAS.................................................................... 389 II. ALGUNAS PRECISIONES CONCEPTUALES............................................. 392 III. BREVE REFERENCIA A LOS POSIBLES ÁMBITOS DE APLICACIÓN... 397 IV. INTELIGENCIA ARTIFICIAL Y EJERCICIO DE LA FUNCIÓN JURISDICCIONAL. LA ADOPCIÓN DE MEDIDAS CAUTELARES........................... 403 V. REFLEXIÓN FINAL....................................................................................... 414 ALGORITMOS PREDICTIVOS DEL COMPORTAMIENTO Y PROCESO PENAL DE MENORES Esther Pillado González
I. CONSIDERACIONES GENERALES SOBRE INTELIGENCIA ARTIFICIAL................................................................................................................ 421 II. INTELIGENCIA ARTIFICIAL Y PROCESO PENAL.................................... 424 III. APLICACIÓN DE ALGORITMOS PREDICTIVOS EN LA IMPOSICIÓN DE LA MEDIDA Y SU EJECUCIÓN EN EL PROCESO PENAL DE MENORES............................................................................................................ 433 IV. CONCLUSIONES.......................................................................................... 439 INTELIGENCIA ARTIFICIAL APLICADA A LA VIDEOVIGILANCIA: TECNOLOGÍAS DE RECONOCIMIENTO FACIAL José Francisco Etxeberria Guridi I. INTRODUCCIÓN.......................................................................................... 443 II. INTELIGENCIA ARTIFICIAL, VIGILANCIA Y DATOS PERSONALES.... 445 III. PUNTO DE PARTIDA: ACERVO EUROPEO SOBRE PROTECCIÓN DE DATOS PERSONALES................................................................................... 449
14
Índice
ELASTICIDAD, DUCTILIDAD Y AUTOMATIZACIÓN DEL PROCESO (DISQUISICIONES PARA UNA REFORMA EFECTIVA FRENTE AL COLAPSO JUDICIAL) José Bonet Navarro
I. LA ELASTICIDAD Y DUCTILIDAD DEL PROCEDIMIENTO Y LA INSIGNIFICANCIA DE LAS REFORMAS PROCESALES FRENTE AL COLAPSO. 469 II. DE SOLUCIONES EFECTIVAS FRENTE AL COLAPSO, EN PARTICULAR LA POSIBLE AUTOMATIZACIÓN DEL PROCEDIMIENTO.................... 479 LA TRAMITACIÓN AUTOMATIZADA DEL PROCESO M. Josune Pérez Estrada
I. DE LA JUSTICIA INFORMÁTICA A LA JUSTICIA DIGITAL.................... 489 II. EL PROCESO JUDICIAL DIGITAL.............................................................. 493 III. LA ACTUACIÓN JUDICIAL AUTOMATIZADA.......................................... 495 IV. LA DEFICIENTE IMPLANTACIÓN DE LA ACTUACIÓN JUDICIAL AUTOMATIZADA.......................................................................................... 502 INTELIGENCIA ARTIFICIAL Y ODR Ana Montesinos García I. INTRODUCCIÓN: ODRS DE SEGUNDA GENERACIÓN......................... 507 II. MEDIACIÓN ON LINE VERSUS NEGOCIACIÓN AUTOMATICA............. 511 III. ARBITRAJE ON LINE E INTELIGENCIA ARTIFICIAL............................. 519 IV. A MODO DE CONCLUSIÓN........................................................................ 528 MULTI-DOOR JUSTICE SYSTEM E INTELIGENCIA ARTIFICIAL María José Catalán Chamorro I. INTRODUCCIÓN.......................................................................................... 533 II. LA IA COMO MÉTODO DIAGNÓSTICO................................................... 535 III. JUSTICIA DIGITAL........................................................................................ 538 IV. EL MULTI DOOR SYSTEM........................................................................... 541 ARBITRAJE Y SOLUCIONES TÉCNICAS INTELIGENTES: ELEMENTOS PARA UN DEBATE Vicente C. Guzmán Fluja
I. NECESIDAD DE UN CONTEXTO CONCEPTUAL, LEGAL, TÉCNICO Y ÉTICO.......................................................................................................... 553 II. SISTEMA INTELIGENTE INTEGRAL DE SOLUCIÓN DE CONFLICTOS. 564 III. EL ARBITRAJE ENTRE VERSATILIDAD, UTILIDAD Y CRISIS, DESDE EL RESPETO A SU ESENCIA....................................................................... 571 IV. SOLUCIONES TÉCNICAS INTELIGENTES APLICADAS AL ARBITRAJE.. 576 V. CONCLUSIÓN............................................................................................... 604
Índice
15
RESOLUCIÓN DE CONFLICTOS EN CONSUMO: ¿UNA SOLUCIÓN A TRAVÉS DE LA INTELIGENCIA ARTIFICIAL? Sebastián Bozzo Hauri Rebeca Remeseiro Reguero I. INTRODUCCIÓN.......................................................................................... 611 II. DIGITALIZACIÓN DE LA JUSTICIA Y SISTEMAS DE ODR..................... 613 III. OPORTUNIDADES Y DESAFÍOS EN EL USO DE ALGORITMOS PARA LA RESOLUCIÓN DE CONFLICTOS......................................................... 616 IV. LA INTELIGENCIA ARTIFICIAL COMO INSTRUMENTO DE APOYO EN LA RESOLUCIÓN DE CONFLICTOS................................................... 622 V. REFLEXION FINAL....................................................................................... 628 INTELIGENCIA ARTIFICIAL Y PROPIEDAD INTELECTUAL: AVANCES EN SU ORDENACION EN LA UNIÓN EUROPEA Guillermo Palao Moreno
I. LA IMPORTANCIA ESTRATÉGICA DE LA INTELIGENCIA ARTIFICIAL Y EL CRECIENTE INTERÉS DE LA UE EN SU ORDENACIÓN............... 633 II. ESTADO DE LA CUESTIÓN Y PERSPECTIVAS DE FUTURO SOBRE LAS RELACIONES QUE MANTIENE LA INTELIGENCIA ARTIFICIAL Y LA PROPIEDAD INTELECTUAL EN LA UE..................................................... 639 III. APROXIMACIÓN SECTORIAL A LOS OBJETIVOS QUE INFORMAN LA ACCIÓN NORMATIVA PROYECTADA POR LA UE EN ESTE ÁMBITO....................................................................................................... 646 IV. REFLEXIÓN FINAL....................................................................................... 652 LÍMITES A LA UTILIZACIÓN DE ALGORITMOS EN EL SECTOR PÚBLICO: REFLEXIONES A PROPÓSITO DEL CASO SYRI Sabela Oubiña Barbolla I. INTRODUCCIÓN.......................................................................................... 655 II. RADIOGRAFÍA DEL CASO SYRI.................................................................. 661 III. ALGUNAS REFLEXIONES AL HILO DEL PROYECTO DE UN NUEVO PROCEDIMIENTO SANCIONADOR AUTOMATIZADO.......................... 677 TECNOLOGÍAS E INFRAESTRUCTURAS INTELIGENTES Y EL FIN DE LA LIBRE CIRCULACIÓN DE INVERSIONES EXTRANJERAS Carlos Esplugues Mota
I. LA GENERACIÓN DE UN DISCURSO DE SECURITIZACIÓN EN TORNO A LAS INVERSIONES EXTRANJERAS: CON ESPECIAL IMPACTO EN LAS VINCULADAS CON LA IA.............................................................. 685 II. LA PLASMACIÓN NORMATIVA DEL DISCURSO DE SEGURIDAD Y SU CONTINUIDAD POST-PANDEMIA............................................................. 692
16
Índice
III. LA UE COMO EJEMPLO PARADIGMÁTICO DE LA CONSOLIDACIÓN DEL DISCURSO DE SEGURIDAD FRENTE A LA INVERSIÓN EXTRANJERA, ESPECIALMENTE EN RELACIÓN CON LAS TECNOLOGÍAS E INFRAESTRUCTURAS INTELIGENTES..................................................... 696 IV. UN CAMBIO DE TENDENCIA, VINCULADO AL SECTOR DE LA IA CON VOCACIÓN DE FUTURO................................................................... 706
Prólogo La elaboración de esta obra colectiva que lleva por título Justicia Algorítmica y Neuroderecho me llena de satisfacción profunda. Responde a un trabajo bien hecho de veintinueve investigadoras e investigadores de doce Universidades españolas (Valencia, Córdoba, Santiago de Compostela, Pablo de Olavide de Sevilla, Valladolid, País Vasco, Coruña, Jaume I Castellón, Sevilla, Salamanca, Autónoma de Madrid y Vigo), de la Universidad de Bolonia, de la Universidad de Messina y de la Universidad Autónoma de Chile, que han participado en la elaboración de este análisis desde una mirada plural, poliédrica y transversal de las numerosas cuestiones que la irrupción tecnológica avanzada está teniendo en el mundo jurídico y muy especialmente en el mundo de la Justicia, entendida en sentido maximalista. En consecuencia, prologar esta obra me permite manifestar el grado de complacencia con el resultado alcanzado, así como exponer el origen y configuración de la misma. Son diversos los factores que han propulsado esta actividad conjunta: Por un lado, el grupo de investigadores PROMETEO GV 2018/111 que, bajo el Proyecto Claves de la Justicia Civil y Penal en la sociedad del miedo: feminización, inteligencia artificial, supranacionalidad, eficiencia y securitización, venimos disertando sobre la transformación imparable, volcánica, que está experimentando la Justicia y el flujo de conceptos, normas, protagonistas, valores, principios, que emergen y se superponen sobre los que la Justicia paradigmática se vino asentando. Muchos cambios, muy rápidos, demasiado, que generan una inquietante mirada ante la que ni puede asumirse una posición inmovilista negadora de una “realidad irrefutable”, ni puede acríticamente aceptarse con autocomplacencia algunas de las realidades que cercenan las conquistas de libertades y derechos tan complejamente alcanzados. Por otro lado, la interacción del grupo investigador con numerosos centros nacionales e internacionales de prestigio nos ha permitido integrar a expertos en sectores interdisciplinares de aquellas inquietudes que se abordan bien en la Universitat de València, a través de encuentros, seminarios o congresos internacionales, o bien mediante la participación de los miembros del grupo en otras sedes y con otros grupos de investigación. La búsqueda de la excelencia investigadora, exigida en la convocatoria de este Proyecto de Investigación de la Generalitat Valenciana, nos ha permitido conjugar un estupendo grupo que ha elaborado los capítulos que
18
Silvia Barona Vilar
integran este Libro con enorme rigor y profundidad, que tiene como eje nuclear la algoritmización de nuestro entorno. Los temas que se ofrecen son apasionantes y obligan a abrir los sentidos para entender, primero, y asimilar, después, esta ráfaga de tecnología que comenzó a acompañar nuestras vidas desde el siglo pasado, pero que no ha cesado de evolucionar y de penetrar en nuestra mirada, en nuestro pensamiento y en nuestra alma. El desencanto (o quizás desencantamiento al que se refería Max Weber, su Entzauberung, de la sociedad postmoderna) abrió los brazos a la globalización, a la economización y efectivismo como valores inspiradores, ofreciendo la posibilidad de llenar ese vacío existencial de orfandad que venía acompañando a la humanidad. El objeto de esta obra ha sido ofrecer una mirada poliédrica de numerosas inquietudes que nos invaden como juristas; una mirada en ciertos casos escéptica, en otros, expectante y en otros, entusiasta. Esa visión crítica profunda y constructiva que esperamos interese y hasta apasione al lector, de la misma manera que lo ha hecho a quienes hemos participado, es la que me ha llevado a sentir una gran satisfacción de coordinar y editar este libro que el lector tiene en sus manos. Los retos que se nos presentan son enormes. Para los jóvenes juristas la posibilidad —hay que verlo positivamente— de abrirse a nuevos caminos, trabajar con computación o a colaborar con ingenieros de computación; para los no tan jóvenes, la posibilidad de trabajar con herramientas que permitan, desde la rigurosidad del control, auditorias y cumplimiento de las garantías jurídicas, realizar las tareas propias de operadores jurídicos de forma más sencilla, más ágil, menos costosa, para alcanzar la decisión final desde el pensamiento humano. Es por ello que se abre un nuevo horizonte de trabajo conjunto, transversal, donde el derecho y la ética, la ingeniería, la técnica y la ciencia médica deben trabajar codo a codo. Nada es lo que parece y a la vez mucho es lo que no vemos. El mundo avanza inexorablemente hacia una realidad digital que puede abrigarnos y darnos una mejor vida, un mayor bienestar, o, por el contrario —solo de nosotros depende— también puede convertirse en un arma arrojadiza contra los derechos, favoreciendo desigualdades, fomentando una servidumbre maquínica (Maurizio Lazzarato) destructiva y manipuladora de esta humanidad incompleta, rabiosa y atractivamente imperfecta. La uniformidad produce monstruos y sobre todo cuando esa uniformidad se traslada al pensamiento; y en lo que a nosotros nos interesa al “pensar como juristas”. Para mantener ese “pensar como juristas humanos” tenemos dos opciones: por un lado, posicionarse en esa magia que ejercen sobre nosotros los dispositivos digitales convirtiéndolos, más allá de nuestros
Prólogo
19
amigos o amores incondicionales, los imprescindibles para vivir, amar y trabajar; o, por el contrario, aprovecharnos de sus bondades, pero sin caer en la magia de Silicon Valley y su fascinante y atractiva teoría del poder absoluto de la inteligencia artificial. Nos hallamos ante un momento apasionante de nuestra Historia, que avanza a una velocidad inusitada, pero es nuestra, no de los magos tecnófilos, y aunque la magia digital está propulsando la mutación de la sociedad, no debemos caer en la fácil demonización, ni en la acrítica fascinación. En ese entorno expuesto nos unimos en esta obra un grupo heterogéneo, en el que diversas áreas de conocimiento, edades, planteamientos, comunidades autónomas, países y universidades hemos convergido en esta obra. En lo personal, y viendo el resultado final, me quedo altamente satisfecha. Y es por ello que finalizo agradeciendo, por un lado, a los integrantes del grupo investigador que han participado en esta obra: a la Prof. Montserrat de Hoyos Sancho, Catedrática de Derecho Procesal de la Universidad de Valladolid; al Prof. José Francisco Etxeberría Guridi, Catedrático de Derecho Procesal de la Universidad del País Vasco, a la Prof. Patricia Faraldo, Catedrática de Derecho Penal de la Universidade da Coruña, a los Prof. Carlos Esplugues Mota y Guillermo Palao Moreno, Catedráticos de Derecho Internacional Privado de la Universitat de València y a la Prof. Elena Martínez García, Catedrática de Derecho Procesal de la Universitat de València. Por otra parte, quiero agradecer a los demás autores, que han participado con el grupo en diversos encuentros, seminarios y congresos, generando una interesante red que está abrigando numerosas actuaciones de presente y de futuro, tanto nacionales como internacionales. En concreto, debo agradecer profundamente la participación de: Prof. Fernando Martín Diz, Catedrático de Derecho Procesal de la Universidad de Salamanca; Prof. Esther Pillado González, Catedrática de Derecho Procesal de la Universidad de Vigo; Prof. Fernando Llano, Catedrático de Filosofía del Derecho de la Universidad de Sevilla, los Prof. Juan Luis Gómez Colomer y Andrea Planchadell, Catedráticos de Derecho Procesal de la Universitat Jaume I (Castellón); Profs, Iñaki Esparza, Catedrático de Derecho Procesal y M. Josune Pérez Estrada, Prof. Agregada de Derecho Procesal, de la Universidad del País Vasco; los Prof. Ignacio Colomer Hernández y Vicente Guzmán Fluja, Catedráticos de Derecho Procesal de la Universidad Pablo de Olavide (Sevilla); la Prof. Sabela Oubiña, Contratada Doctora de la Universidad Autónoma de Madrid; la Prof. Mª Angeles Catalina, Contratada Doctora de la Universidad de Santiago; la Prof. M José Catalán Chamorro, Prof Ayudante Doctora de la Universidad de Córdoba; la Prof. Isadora Ne-
20
Silvia Barona Vilar
roni Rezende, de la Università di Bologna; Prof. Stefano Ruggieri, Catedrático de Derecho Procesal Penal de la Università di Messina; a los Prof. Sebastián Bozzo, Hernán López y Rebeca Remeseiro, Prof. de Derecho Civil, Filosofía del Derecho y de Ética e Inteligencia Artificial de la Universidad Autónoma de Chile; y finalmente a mis compañeros de la Universitat de València, José Bonet Navarro, Catedrático de Derecho Procesal, Ana Montesinos García, Prof. Titular de Derecho Procesal, Raquel Borges, Ayudante Doctora de Derecho Procesal, Alba Soriano, Doctora en Derecho, y Elisa Simó, Contratada predoctoral Derecho Procesal. En Valencia, a 1 de marzo de 2021
Silvia Barona Vilar