1_9788411300933 by Editorial Tirant Lo Blanch

APLICACIÓN DE INTELIGENCIA ARTIFICIAL POR LOS TRIBUNALES EUROPEOS: CONSECUENCIAS SOBRE EL RECONOCIMIENTO MUTUO DE RESOLUCIONES JUDICIALES

COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH MARÍA JOSÉ AÑÓN ROIG

Catedrática de Filosofía del Derecho de la Universidad de Valencia

ANA CAÑIZARES LASO Catedrática de Derecho Civil de la Universidad de Málaga

JORGE A. CERDIO HERRÁN

Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México

JOSÉ RAMÓN COSSÍO DÍAZ Ministro en retiro de la Suprema Corte de Justicia de la Nación y miembro de El Colegio Nacional

EDUARDO FERRER MAC-GREGOR POISOT Juez de la Corte Interamericana de Derechos Humanos. Investigador del Instituto de Investigaciones Jurídicas de la UNAM

OWEN FISS Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)

JOSÉ ANTONIO GARCÍA-CRUCES GONZÁLEZ Catedrático de Derecho Mercantil de la UNED

LUIS LÓPEZ GUERRA Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid

ÁNGEL M. LÓPEZ Y LÓPEZ

Catedrático de Derecho Civil de la Universidad de Sevilla

VÍCTOR MORENO CATENA

Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid

FRANCISCO MUÑOZ CONDE

Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla

ANGELIKA NUSSBERGER

Catedrática de Derecho Constitucional e Internacional en la Universidad de Colonia (Alemania). Miembro de la Comisión de Venecia

HÉCTOR OLASOLO ALONSO

Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)

LUCIANO PAREJO ALFONSO

Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid

CONSUELO RAMÓN CHORNET

Catedrática de Derecho Internacional Público y Relaciones Internacionales de la Universidad de Valencia

TOMÁS SALA FRANCO

Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia

IGNACIO SANCHO GARGALLO

Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España

MARTA LORENTE SARIÑENA TOMÁS S. VIVES ANTÓN

Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid

Catedrático de Derecho Penal de la Universidad de Valencia

JAVIER DE LUCAS MARTÍN RUTH ZIMMERLING

Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia

Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)

Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales

APLICACIÓN DE INTELIGENCIA ARTIFICIAL POR LOS TRIBUNALES EUROPEOS: CONSECUENCIAS SOBRE EL RECONOCIMIENTO MUTUO DE RESOLUCIONES JUDICIALES

Manuel Baena Pedrosa

Diplomático. División de recursos y relaciones con los tribunales del Ministerio de Asuntos Exteriores, Unión Europea y Cooperación

tirant lo blanch Valencia, 2022

Copyright ® 2022 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito del autor y del editor. En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com. Colección Derecho Procesal de la Unión Europea Directora: MAR JIMENO BULNES Catedrática de Derecho Procesal

TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email: tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es ISBN: 978-84-1130-093-3 MAQUETA: Innovatext Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro Procedimiento de quejas. Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf

Índice

AGRADECIMIENTOS............................................................................................ PRÓLOGO.............................................................................................................. ABREVIATURAS..................................................................................................... INTRODUCCIÓN...................................................................................................

13 15 19 23

Capítulo Primero APROXIMACIÓN TÉCNICA A LA INTELIGENCIA ARTIFICIAL

I. II. III. IV.

CONCEPTO.................................................................................................... FUNCIONAMIENTO. DATOS Y ALGORITMOS........................................ PERSPECTIVAS.............................................................................................. ¿UN NUEVO INVIERNO PARA LA INTELIGENCIA ARTIFICIAL?...........

30 33 36 38

Capítulo Segundo SISTEMAS DE INTELIGENCIA ARTIFICIAL EMPLEADOS EN EL ÁMBITO JUDICIAL

I. II.

INTRODUCCIÓN.......................................................................................... EL BIBLIOTECARIO: INVESTIGACIÓN Y DOCUMENTACIÓN JURÍDICAS.............................................................................................................. III. EL ORÁCULO: PREDICCIÓN EXTRAPROCESAL..................................... 1. Predicción de sentencias en el TEDH. El estudio de Aletras et al...... 2. JURI y Jurisays.com................................................................................. 3. Limitaciones a la predicción jurídica mediante inteligencia artificial............................................................................................................ IV. EL AUXILIAR JUDICIAL............................................................................... 1. El Tribunal de Justicia de la Unión Europea y su Innovation Lab........ 1.1. Proyectos....................................................................................... 1.1.1. Reconocimiento óptico de caracteres (u Optical Character Recognition, OCR)............................................... 1.1.2. Reconocimiento automático de voz (o Automatic Speech Recognition, ASR).............................................. 1.1.3. eTranslation (traductor automático)............................. 1.1.4. Chatbot............................................................................ 2. El paradigma estonio..............................................................................

41 45 47 48 51 52 54 55 56 56 56 57 57 58

Índice

2.1. 2.2. 2.3.

Precisiones previas........................................................................ El concepto de “justicia individual” (individual justice)............ Proyectos....................................................................................... 2.3.1. Sistema de Información Judicial (Court Information System, CIS)..................................................................... 2.3.2. e-File (Public e-File, e-File y Digital Court Files). Transcripción automática. Texta.................................... 2.3.3. Automatización de los trámites del procedimiento monitorio.................................................................................. V. EL TESTIGO: UTILIZACIÓN DE INTELIGENCIA ARTIFICIAL EN LA PRUEBA.......................................................................................................... 1. Precisiones previas.................................................................................. 2. Un algoritmo para probar el uso de explosivos prohibidos................. VI. EL ABOGADO GENERAL: PROPUESTA AUTÓNOMA QUE NO VINCULA AL JUEZ............................................................................................... 1. DataJust.................................................................................................... 2. Prevención de riesgos. COMPAS y HART............................................. VII. EL FUNCIONARIO CON PODERES LIMITADOS: DECISIÓN AUTOMATIZADA, PERO RECURRIBLE ANTE UN JUEZ.................................... 1. Alcance real de las experiencias piloto................................................. 2. El “problema técnico” en la toma de decisiones mediante inteligencia artificial..............................................................................................

58 58 59 59 59 60 61 61 64 66 67 68 69 69 72

Capítulo Tercero APROXIMACIÓN JURÍDICA A LA INTELIGENCIA ARTIFICIAL

I. II.

INTELIGENCIA ARTIFICIAL Y DERECHO INTERNACIONAL............... GOBERNANZA DE LA INTELIGENCIA ARTIFICIAL................................ 1. Concepto................................................................................................. 2. Modelos de gobernanza digital.............................................................. 2.1. Modelo estadounidense............................................................... 2.2. Modelo chino................................................................................ 2.3. Modelo europeo........................................................................... 2.4. Modelo de las democracias con limitado poder de negociación.................................................................................................... 2.5. Otros modelos............................................................................... III. LA ASPIRACIÓN GLOBAL DE LA UNIÓN EUROPEA..............................

75 85 85 86 86 87 87 88 88 88

Capítulo Cuarto REGULACIÓN DE LA INTELIGENCIA ARTIFICIAL EN LA UNIÓN EUROPEA

TENDENCIAS EN LA EVOLUCIÓN............................................................

Índice

1. 2. 3.

II.

Flexibilidad: tendencia adaptativa......................................................... Derechos fundamentales: tendencia garantista.................................... De la autorregulación a la propuesta de Reglamento: tendencia regulatoria........................................................................................................... ETAPAS............................................................................................................ 1. Primera etapa. Regulación sectorial...................................................... 2. Segunda etapa: de la reflexión a la regulación horizontal.................. 2.1. La reflexión sobre el futuro régimen europeo de inteligencia artificial.......................................................................................... 2.2. Del Libro Blanco a la propuesta de la Comisión de un Reglamento sobre inteligencia artificial............................................... 2.2.1. Ámbito de aplicación de las propuestas de la Comisión................................................................................... 2.2.2. Espíritu de las propuestas de la Comisión..................... 2.2.3. Base jurídica: regulación horizontal, pero a partir de las libertades del mercado interior................................ 2.2.4. Enfoque basado en riesgos............................................. 2.2.5. Régimen público de control........................................... 2.3. Otras iniciativas legislativas conexas............................................ 2.4. La Estrategia y el Plan Coordinado para la inteligencia artificial..................................................................................................

92 94 98 104 104 106 106 108 109 109 110 111 113 114 115

Capítulo Quinto EL PRINCIPIO DE CONFIANZA MUTUA ANTE EL USO DE INTELIGENCIA ARTIFICIAL EN LOS JUZGADOS EUROPEOS

EL ESPACIO DE LIBERTAD, SEGURIDAD Y JUSTICIA............................. 1. Regulación............................................................................................... 2. Alcance.................................................................................................... II. EL PRINCIPIO DE CONFIANZA MUTUA................................................... 1. Del “ecosistema de confianza” al principio de confianza mutua......... 2. Concepto................................................................................................. 3. Naturaleza............................................................................................... III. FUNCIONAMIENTO DEL PRINCIPIO DE CONFIANZA MUTUA EN EL ELSJ CUANDO SE APLIQUE INTELIGENCIA ARTIFICIAL............... 1. El respeto a los derechos fundamentales como condición indispensable de la confianza mutua................................................................... 1.1. Derechos fundamentales y Unión Europea................................ 1.2. Quiebra del principio de confianza mutua................................. 1.3. Derechos fundamentales potencialmente afectados por la aplicación de inteligencia artificial en el ámbito judicial. Diferentes aproximaciones.................................................................

120 121 122 123 123 126 127 130 130 131 134

137

Índice

Garantías del principio de confianza mutua en un ELSJ cuando se aplique inteligencia artificial.................................................................. 2.1. Propuestas parciales...................................................................... 2.1.1. Certificación y homologación........................................ 2.1.2. Unas normas similares a ISO.......................................... 2.2. Garantías del “ecosistema de confianza” en la propuesta de Reglamento, ante la aplicación de inteligencia artificial en procesos judiciales........................................................................ Potenciales amenazas al principio de confianza mutua: análisis específico........................................................................................................ 3.1. Tratamiento de datos.................................................................... 3.1.1. Protección de datos......................................................... 3.1.2. Principios en el tratamiento de datos............................ 3.1.3. La paradoja de la insuficiencia de datos y la incapacidad de los algoritmos...................................................... 3.1.4. La Estrategia Europea de Datos..................................... 3.2. Discriminación. Sesgos................................................................. 3.2.1. Concepto.......................................................................... 3.2.2. Clasificación..................................................................... 3.2.3. Sesgo y discriminación.................................................... 3.3. Transparencia. Black boxes..........................................................

140 140 140 141

142 146 146 147 150 152 153 154 154 155 156 157

Capítulo Sexto EL PRINCIPIO DE RECONOCIMIENTO MUTUO ANTE EL USO DE INTELIGENCIA ARTIFICIAL EN LOS JUZGADOS EUROPEOS

II.

EL PRINCIPIO DE RECONOCIMIENTO MUTUO.................................... 1. Transición entre confianza mutua y reconocimiento mutuo.............. 2. Concepto................................................................................................. 3. La peculiar evolución del principio de reconocimiento mutuo en el Espacio de Libertad, Seguridad y Justicia............................................. 4. Naturaleza............................................................................................... FUNCIONAMIENTO DEL PRINCIPIO DE RECONOCIMIENTO MUTUO EN EL ELSJ CUANDO SE APLIQUE INTELIGENCIA ARTIFICIAL.. 1. Presencia de cláusulas de orden público en ciertos instrumentos de reconocimiento mutuo........................................................................... 1.1. Ámbito civil................................................................................... 1.2. Ámbito penal................................................................................. 1.3. Alcance de las cláusulas de orden público.................................. 2. Análisis de hipotéticos motivos de orden público que impedirían aplicar el principio de reconocimiento mutuo ante el empleo de inteligencia artificial en el ELSJ.............................................................

161 161 163 163 165 167 168 168 172 175

180

Índice

2.1.

Prohibición de resoluciones judiciales desprovistas de motivación jurídica.................................................................................. Prohibición de decisiones adoptadas sin control humano........

181 184

CONCLUSIONES................................................................................................... BIBLIOGRAFÍA....................................................................................................... NORMATIVA Y OTROS DOCUMENTOS JURÍDICOS.....................................

189 199 207

2.2.

AGRADECIMIENTOS

Deseo agradecer la ayuda que he recibido de Beatriz Añoveros Terradas (catedrática de Derecho Internacional Privado de la Universidad de Barcelona), Teresa Rodríguez de las Heras (profesora titular de Derecho Mercantil de la Universidad Carlos III) y José Ignacio Solar Cayón (profesor titular de Filosofía del Derecho de la Universidad de Cantabria). Mención especial merece Montserrat de Hoyos Sancho (catedrática de Derecho Procesal de la Universidad de Valladolid), que me ha guiado desde el comienzo hasta el final de este trabajo con una gran dedicación y siempre acertado criterio. Agradezco también la información suministrada por Kaidi Lippus, Director of the Courts Division del Ministerio de Justicia de la República de Estonia, y por Gabriel Babiano y Banu Sorin, del Tribunal de Justicia de la Unión Europea. A todos ellos, gracias.

PRÓLOGO

Me confiere Manuel Baena el honor de prologar este libro, que trae su origen en sendos brillantes trabajos académicos previos; por un lado, en aquél con el que culminó en el año 2020 su periodo de formación en la Escuela Diplomática y, por otro, en el Trabajo Fin de Máster en Estudios Avanzados en la Unión Europea cursado en la Universidad de Valladolid, redactado en 2021 bajo mi dirección. Ahora nos ofrece el autor una obra totalmente revisada y actualizada que pasará a ser un referente en la materia, de lectura obligada para todos aquellos que quieran profundizar en el estudio del uso jurisdiccional de los nuevos sistemas de Inteligencia Artificial, en la Unión Europea en general, y en nuestro país en particular. La aplicación de la Inteligencia Artificial en las diversas etapas de un proceso es ya una realidad dentro y fuera de nuestras fronteras. Ofrece desde luego muchas ventajas, que también se vienen poniendo de manifiesto en otros muchos ámbitos de la vida pública y privada, pero también presenta dificultades y retos que deberán solventar legisladores y operadores jurídicos. En particular por lo que a nuestra especialidad respecta, aquellos relacionados con la vigencia de los principales derechos procesales de las partes: equidad de armas, ejercicio efectivo del derecho de defensa, transparencia y motivación de la toma de decisiones, derecho a una resolución jurisdiccional en sentido estricto, posibilidades de impugnación, o presunción de inocencia y no discriminación, entre otros. La materia requiere sin duda de una regulación detallada, que no existe aún en nuestro país, pero que al menos ya se está gestando en el contexto de la Unión Europea. Así, en abril de 2021 se presentó la Propuesta de Reglamento del Parlamento europeo y del Consejo para establecer reglas armonizadas en materia de Inteligencia Artificial, la cual tiene por finalidad expresa la creación de un “ecosistema de confianza” con un “enfoque antropocéntrico”, y pretende precisamente sentar las bases de lo que será una regulación armonizada en el espacio de libertad, seguridad y justicia de la Unión. Armonización esta que, no lo perdamos de vista, será esencial, no sólo para marcar las pautas a las respectivas regulaciones internas de los Estados miembros sobre el uso de la Inteligencia Artificial, sino también para facilitar el reconocimiento mutuo de las resoluciones judiciales que

Montserrat de Hoyos Sancho

se pudieran dictar en ese contexto jurídico; como es sabido, hoy en día ese es el fundamento o principio rector de la cooperación policial y judicial transfronteriza en dicho ámbito. A esta cuestión le dedica el autor una parte importante de su trabajo; en particular, a la nueva realidad que más pronto que tarde tendrá que afrontar el Tribunal de Justicia de la Unión Europea, en cuanto se le planteen cuestiones sobre estas materias y se ponga de manifiesto la diversidad de usos y garantías en la aplicación por los poderes públicos de los sistemas de Inteligencia Artificial. La citada Propuesta de Reglamento pretende sentar una serie de reglas básicas en la materia, aplicables en todos los órdenes, pero lo cierto es que tal regulación está clara y expresamente centrada en la mejora del mercado interior y de la competitividad, en las libertades económicas comunitarias en definitiva, y no tanto en reforzar el espacio de libertad, seguridad y justicia. De otro lado, este esfuerzo regulatorio, muy general y de carácter horizontal, deberá ir acompañado de normas sectoriales mucho más específicas y, desde luego, de las respectivas leyes nacionales de desarrollo y aplicación del Reglamento a los distintos ámbitos. Naturalmente, será preciso avanzar también en la Estrategia Europea de Datos, que incluye una gestión y tratamiento responsable de los mismos. Muestra de la relevancia teórica y también práctica de la materia analizada en este trabajo son los diversos y valiosos ejemplos que en él se contienen sobre algunas de las experiencias pioneras en la aplicación de sistemas de Inteligencia Artificial en el ámbito judicial europeo, en los que precisamente se pusieron de manifiesto los riesgos que para los derechos fundamentales podía conllevar su utilización sin las imprescindibles garantías. El autor concluye que, para garantizar la vigencia del reconocimiento mutuo de resoluciones judiciales y, por tanto, la fluidez y efectividad de la cooperación transfronteriza en el contexto UE, serán necesarios fuertes controles sobre los datos y los algoritmos que conforman el sistema de Inteligencia Artificial, controles que se recogen de manera parcial, pero no total, en la Propuesta de Reglamento analizada. Compartimos plenamente esa conclusión: tal normativa armonizadora llegará tarde y, siendo un primer paso en la regulación de la materia, necesitará aún de otras normas complementarias de desarrollo. Es evidente además que Tribunal de Justicia de la Unión Europea tendrá mucho que decir también al respecto; comprobaremos entonces si prima el desarrollo tecnológico, la mejora de la competitividad de nuestras empresas, o la tutela de los derechos fundamentales que están en juego en este campo, destacadamente en el orden penal y en el administrativo-sancionador, tarea que desde luego le corresponde asumir al Tribunal de Luxemburgo.

Prólogo

La actualidad y trascendencia de la cuestión se ha puesto también de manifiesto en la reciente Resolución del Parlamento europeo, de 6 de octubre de 2021, precisamente titulada “Sobre la Inteligencia Artificial en el Derecho Penal y su utilización por las autoridades policiales y judiciales en asuntos penales”, en la que se ha destacado que, tanto para la eficacia del derecho de defensa, como para la transparencia de los sistemas nacionales de justicia penal, es preciso que exista un marco jurídico específico, claro y preciso que regule las condiciones, modalidades y las consecuencias del uso de las herramientas de Inteligencia Artificial en el ámbito de las actuaciones policiales y judiciales, así como los derechos de las personas afectadas, junto con procedimientos eficaces y fácilmente accesibles de reclamación y recurso, incluidos los recursos judiciales, poniendo de relieve además “la necesidad de que las autoridades de ejecución participantes en la cooperación judicial, al decidir sobre una solicitud de extradición –o entrega– a otro Estado miembro o a un tercer país, evalúen si el uso de herramientas IA en el país solicitante podría manifiestamente comprometer el derecho fundamental a un juicio justo”. Por todo ello el Parlamento europeo solicita expresamente de la Comisión que elabore directrices sobre cómo llevar a cabo dicha evaluación en el contexto de la cooperación judicial en materia penal, petición ésta que suscribimos en sus propios términos. En fin, la importancia creciente de la materia está fuera de discusión. El autor de esta obra la conoce con detalle y, a pesar de su complejidad, la expone con rigor, claridad y concisión, con un abundantísimo sustento normativo, jurisprudencial y bibliográfico en todas sus afirmaciones, exponiendo los problemas que ya se han planteado ante los tribunales europeos, vaticinando otros que seguro vendrán y proponiendo soluciones basadas en un exhaustivo estudio del tema. Solo me resta felicitar a Manuel Baena Pedrosa, brillante joven integrante de la carrera diplomática española, por este magnífico trabajo, cuya atenta lectura me permito recomendar a los interesados en el uso jurisdiccional de la Inteligencia Artificial, que deberíamos ser todos, pues como dice la canción… el futuro ya está aquí. En Simancas, a 28 de diciembre 2021. Montserrat de Hoyos Sancho Catedrática de Derecho Procesal de la Universidad de Valladolid ExDirectora del Instituto de Estudios Europeos

ABREVIATURAS A. AA.VV. AI AP ASR ATC ATS art., arts. BOE c. cap. CC CDFUE CE CEDH CENDOJ CEPEJ CGE CGPJ cit. COMPAS CP DMA DOCE DOUE DSA ECLI ed. EIG ej.

auto varios autores artificial intelligence Audiencia Provincial Reconocimiento automático de voz Auto del Tribunal Constitucional Auto del Tribunal Supremo Artículo, artículos Boletín Oficial del Estado contra Capítulo Código Civil Carta de Derechos Fundamentales de la Unión Europea Constitución Española Convenio Europeo de Derechos Humanos Centro de Documentación Judicial del CGPJ European Commission for the Efficiency of Justice Grupo de Expertos Gubernamentales Consejo General del Poder Judicial citado, citada Correctional Offender Management Profiling for Alternative Sanctions Código Penal Digital Markets Act Diario Oficial de la Comunidad Europea Diario Oficial de la Unión Europea Digital Services Act European Case Law Identifier Edición, editor, editorial (según contexto) Entrepreneurs d’intérêt général ejemplo

20 ELSJ EUR-Lex GDPR GLAN GPS HART HUDOC IA ibíd., ibídem I+D IGCI L LAWs LEC LECrim LO LOPJ LRMRP MIT ML n., nº, núm. NLP OCR ODR OEWG OMC op. cit. OTAN p., pp., pág. PE PESC PIDCP RD RGPD

Abreviaturas

Espacio de Libertad, Seguridad y Justicia Servicio de publicación en línea de textos legislativos de la Unión Europea General Data Protection Regulation Global Legal Action Network Sistema de Posicionamiento Global Harm Assessment Risk Tool Base de datos del TEDH inteligencia artificial misma obra Investigación + Desarrollo Complejo Global de Interpol para la Innovación ley armas letales autónomas Ley de Enjuiciamiento Civil Ley de Enjuiciamiento Criminal Ley Orgánica Ley Orgánica del Poder Judicial Ley de Reconocimiento Mutuo de Resoluciones Penales Instituto Tecnológico de Massachusetts machine learning número Natural Language Processing Reconocimiento óptico de caracteres Online Dispute Resolution Open-ended Working Group Organización Mundial del Comercio obra citada Organización del Tratado del Atlántico Norte página, páginas Parlamento Europeo Política Exterior y de Seguridad Común Pacto Internacional de Derechos Civiles y Políticos Real Decreto Reglamento General de Protección de Datos