1_9788411691291 by Editorial Tirant Lo Blanch

EL JUEZ-ROBOT

(La independencia judicial en peligro)

COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH

María José Añón Roig

Catedrática de Filosofía del Derecho de la Universidad de Valencia

Ana Cañizares Laso Catedrática de Derecho Civil de la Universidad de Málaga

Jorge A. Cerdio Herrán

Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México

José Ramón Cossío Díaz

Ministro en retiro de la Suprema

Corte de Justicia de la Nación y miembro de El Colegio Nacional

María Luisa Cuerda Arnau

Catedrática de Derecho Penal de la Universidad Jaume I de Castellón

Carmen Domínguez Hidalgo

Catedrática de Derecho Civil de la Pontificia Universidad Católica de Chile

Eduardo Ferrer Mac-Gregor Poisot

Juez de la Corte Interamericana de Derechos Humanos

Investigador del Instituto de Investigaciones Jurídicas de la UNAM

Owen Fiss

Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)

José Antonio García-Cruces González

Catedrático de Derecho Mercantil de la UNED

José Luis González Cussac

Catedrático de Derecho Penal de la Universidad de Valencia

Luis López Guerra

Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid

Ángel M. López y López

Catedrático de Derecho Civil de la Universidad de Sevilla

Marta Lorente Sariñena

Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid

Javier de Lucas Martín

Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia

Víctor Moreno Catena

Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid

Francisco Muñoz Conde

Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla

Angelika Nussberger

Catedrática de Derecho Constitucional e Internacional en la Universidad de Colonia (Alemania)

Miembro de la Comisión de Venecia

Héctor Olasolo Alonso

Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y

Presidente del Instituto Ibero-Americano de La Haya (Holanda)

Luciano Parejo Alfonso

Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid

Consuelo Ramón Chornet

Catedrática de Derecho Internacional

Público y Relaciones Internacionales de la Universidad de Valencia

Tomás Sala Franco

Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia

Ignacio Sancho Gargallo

Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España

Elisa Speckmann Guerra

Directora del Instituto de Investigaciones

Históricas de la UNAM

Ruth Zimmerling

Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)

Fueron miembros de este Comité:

Emilio Beltrán Sánchez, Rosario Valpuesta Fernández y Tomás S. Vives Antón

Procedimiento de selección de originales, ver página web:

www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales

EL JUEZ-ROBOT

(La independencia judicial en peligro)

JUAN-LUIS GÓMEZ COLOMER

Catedrático de Derecho Procesal Universidad Jaume I de Castellón (España)

tirant lo blanch

Valencia, 2023

Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor.

En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com.

© Juan-Luis Gómez Colomer

EDITA: TIRANT LO BLANCH

C/ Artes Gráficas, 14 - 46010 - Valencia

TELFS.: 96/361 00 48 - 50

FAX: 96/369 41 51

Email:tlb@tirant.com

www.tirant.com

Librería virtual: www.tirant.es

DEPÓSITO LEGAL: V-1011-2023

ISBN: 978-84-1169-129-1

MAQUETA: Disset Ediciones

Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro procedimiento de quejas.

Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf

A Walter Perron, extraordinario colega y, sobre todo, excelente amigo.

Libro elaborado gracias a la concesión de tres becas: – Generalitat Valenciana - Programa BEST/2021 (julio a septiembre de 2021)

Alexander von Humboldt-Stiftung - Wiedereinladung (octubre a diciembre de 2021)

– Ministerio de Ciencia, Innovación y Universidades – Programa Salvador de Madariaga (julio a diciembre de 2022)

Las dos primeras becas se desarrollaron en el Institut für Strafrecht und Strafprozessrecht Abteilung 3: Deutsches und Ausländisches Strafrecht und Strafprozessrecht - Rechtswissenschaftliche Fakultät, de la Albert-Ludwigs-Universität de Freiburg im Breisgau (Alemania). Mi agradecimiento al Prof. Walter Perron, el director de la cátedra, por su extraordinaria acogida y constante apoyo.

Pude consultar mucha bibiliografía en el Max-Planck-Institut zur Erforschung von Kriminalität, Sicherheit und Recht (antiguo Max-Plank-Institut für ausländisches und internationales Stafrecht), de Freiburg im Breisgau durante mi estancia en Alemania. Mi agradecimiento a sus directores Prof. Dr. Ralf Poscher y Profra. Dra. Tatjana Hörnle, por aceptarme.

La tercera beca la disfruté en el Centro Interdipartimentale per l’Intelligenza Artificiale - CIRSFID-AI Alma Human Artificial Intelligence, y en el Dipartimento di Scienze Giuridiche «Antonio Cicu», ambos de la Alma Mater Studiorum - Università degli Studi di Bologna (Italia). Mi agradecimiento a los Profs. Dres. Giovanni Sartor y Renzo Orlandi por su excelente acogida y apoyo.

La coincidencia de esas estancias de investigación con la pandemia del Coronavirus (COVID-19), olas 5ª, 6ª y 7ª, no supuso ningún problema, ni adicional, ni especial, con relación a mis viajes a Alemania y a Italia, ni tampoco en cuanto a la consulta in situ de los materiales legislativos, jurisprudenciales y bibliográficos en los institutos que me acogieron, ni, por supuesto, en las varias bibliotecas que visité. La voluntad manifiesta y expresa de colaboración y ayuda proporcionada por mis anfitriones, mi correcta vacunación y mi respeto sin fisuras a las normas locales para hacer frente al COVID-19, facilitaron de manera decisiva poder llegar hasta el resultado que el lector tiene ahora en sus manos.

–

“Ver a aquellas criaturas humanas, quizá más infelices que culpables, juzgadas y condenadas por una lúcida y gélida máquina, era cosa que suscitaba en mí una protesta sorda, tal vez primitiva e instintiva, pero a la que no lograba acallar. Las máquinas inventadas y fabricadas por el ingenio de los hombres habían logrado quitar la libertad y la vida a sus progenitores.”

Giovanni PAPINI, II Libro Nero: nuovo diario di Gog, Letteratura Contemporanea, Ed. Vallecchi, Firenze 1951 (trad. de M. Verdaguer, Gog. El libro negro, Círculo de Lectores, Ed. Plaza y Janés, Barcelona 1962). Sección 1. Conversación 3. EL TRIBUNAL ELECTRÓNICO. Pittsburg, 6 de octubre.

I. INTRODUCCIÓN: OBJETO DE LA INVESTIGACIÓN ..................... 15 II. EL ESTADO DE LA CUESTIÓN ........................................................ 21 A) ¿Qué es la inteligencia artificial?. ............................................................ 21 B) La aparición de la inteligencia artificial. 25 C) Los conceptos básicos. .............................................................................. 35 D) La relación entre la Inteligencia Artificial y el Derecho. ....................... 41 E) La relación entre la Inteligencia Artificial y el Derecho Procesal. 48 F) Las argumentaciones generales sobre el tema. 50 III. LA COMPLEJIDAD LEGAL: EL ANSIA DE NORMATIVIZACIÓN .... 67 A) Europa: ...................................................................................................... 67 a) Evolución normativa. ............................................................ 67 b) La futura Ley de Inteligencia Artificial europea. 72 c) Otros documentos de relevancia. ........................................ 78 B) España. ...................................................................................................... 82 C) Alemania. 90 D) Italia. 94 IV. LA INCIDENCIA DE LA ÉTICA ........................................................ 99 A) Las propuestas:.......................................................................................... 100 a) La Carta Ética europea. ........................................................ 100 b) Las Directrices Éticas para una Inteligencia Artificial. 101 B) Los principios: ........................................................................................... 102 a) Principios éticos generales. .................................................. 103 b) Principios éticos particulares. 107 V. INSTITUCIONES PROCESALES QUE PUEDEN SER CAMPO APROPIADO PARA EL USO DE LA INTELIGENCIA ARTIFICIAL .... 129 A) Organización del Poder Judicial. ............................................................. 130 B) Proceso civil. .............................................................................................. 134 C) Proceso penal. 137 D) En especial, la resolución del conflicto mediante la Inteligencia Artificial. ................................................................................................... 143

Índice

12 Índice VI. PROBLEMAS CONSTITUCIONALES QUE SE PLANTEAN: LOS DERECHOS FUNDAMENTALES (DERECHOS HUMANOS) Y LA INTELIGENCIA ARTIFICIAL .......................................................... 149 A) El impacto de la Inteligencia Artificial en los derechos fundamentales / humanos. ......................................................................................... 150 B) Propuestas de regulación: ........................................................................ 152 a) Iniciativas privadas. 152 b) Propuestas públicas: ............................................................. 155 1. En general: Los derechos fundamentales sobre los que se basa una Inteligencia Artificial fiable ............................................................... 156 2. Respeto de la dignidad humana............................... 159 3. Libertad individual. ................................................... 160 4. Respeto de la democracia, la Justicia y el Estado de Derecho. ................................................... 161 5. Igualdad, no discriminación y solidaridad. ............. 161 6. Derechos de los ciudadanos. 163 c) Su concreción en el ámbito de la Justicia: 163 1. El derecho fundamental de acceso a un tribunal: Efectividad y protección. ............................... 164 2. La esencia de la contradicción y confrontación en el proceso: El principio adversarial. ............. 167 3. El principio de igualdad de armas: .......................... 167 1”) Significado. .................................................... 168 2”) Prohibición de la discriminación. 169 4. Los principios de imparcialidad e independencia de los jueces. .................................................. 169 5. El sagrado derecho de defensa o derecho a un abogado. ......................................................... 170 6. El derecho constitucional a la presunción de inocencia. ............................................................ 171 7. El delicado tema del derecho fundamental a la protección de datos. ...................................... 172 8. Los derechos fundamentales implícitos: ................. 184 1”) El principio del estado de derecho. 184 2”) El derecho constitucional al juez legal. ....... 187 C) El peligro que nos acecha: ....................................................................... 189

PROTECCIÓN

INDEPENDENCIA

A LA INTELIGENCIA ARTIFICIAL ................................................. 197 A) La independencia judicial y su evolución en el mundo tecnológico 197 B) Sin jueces verdaderamente independientes no hay democracia ........... 200 C) El Estado, garante inicial y final de la independencia judicial .............. 202

VII. LA

DE LA

JUDICIAL FRENTE

VIII. EL JUEZ-ROBOT. CUESTIONES A ANALIZAR Y PROBLEMAS

13 Índice D) Un nuevo actor entra en escena: La Inteligencia Artificial: .................. 206 a) Respecto a la independencia objetiva. 212 b) Respecto a la independencia subjetiva. .................. 214 c) La llamada independencia interna o justificación de la imparcialidad. ....................................... 215

A RESOLVER ANTES DE SU IMPLANTACIÓN, SI ASÍ SE DECIDIERA ............................................................................................. 225 A) El robot es una figura jurídica impersonal. Alcance de su labor........... 228 B) La legitimidad democrática del Juez-Robot 232 C) La construcción y programación de la máquina de juzgar: ................... 235 a) El problema de la enorme sobrecarga judicial en la Justicia local. 237 b) La falacia de pensar en los asuntos pequeños, irrelevantes o sencillos. ....................................................................... 238 c) El costo no es el problema. .................................................. 240 D) El funcionamiento de la máquina de juzgar y sus resultados: 241 a) Ausencia de emociones y sentimientos. .............................. 242 b) Ausencia de transparencia. .................................................. 247 c) Ausencia de motivación. ....................................................... 249 d) Los sesgos. 253 e) El complejo tema de la prisión preventiva. ......................... 254 E) Las reglas infranqueables: ........................................................................ 256 a) La aplicación de normas éticas de la Inteligencia Artificial en el Juez-Robot. ............................................................ 257 b) La protección de los derechos fundamentales en la utilización de la máquina de juzgar. ................................... 259 F) La decisión judicial: 260 a) La valoración de la prueba. .................................................. 261 b) La discrecionalidad judicial. ................................................ 268 c) En lo penal especialmente: 274 1. La medición de la pena. 274 2. La suspensión de la pena y cumplimiento de obligaciones. ......................................................... 276 3. Las alternativas a la pena de prisión. 278 G) La impugnabilidad de la decisión: .......................................................... 279 a) ¿Tiene sentido el recurso de apelación contra las sentencias definitivas del Juez-Robot? ............................................ 280 b) Los errores del Juez-Robot y su control mediante los recursos ................................................................................. 281 H) La responsabilidad del robot:.................................................................. 283

14 Índice a) Responsabilidad contractual y responsabilidad extracontractual. 288 b) Responsabilidad por el producto. ....................................... 290 c) La posición jurídica de la Unión Europea. ......................... 294 d) ¿Sería admisible un Juez-Robot irresponsable? .................. 299 I) Los daños colaterales: 300 a) Desaparición de la equidad .................................................. 301 b) Uso torticero de predicciones ............................................. 302 c) Reconsideración radical de los presupuestos procesales 302 d) Pérdida de sentido de muchos actos procesales................. 303 e) Práctica invisible de la prueba ............................................. 303 f) El principio de oralidad, innecesario ................................... 304 g) Irremediable desaparición del Jurado 305 h) Nueva planta y demarcación debidas a una reorganización de juzgados y tribunales ............................................... 306 k) Cuestiones organizativas irresolubles que deben resolverse: 306 a) ¿Estará el Juez-Robot bajo la tutela del Consejo General del Poder Judicial? ................................................................ 307 b) ¿Qué participación tendrán las Comunidades Autónomas? 309 c) ¿Será necesario un estatuto jurídico del Juez-Robot? 310 d) ¿Qué situación jurídica tendrán las empresas que producen los algoritmos? ............................................................... 313 e) ¿Deberá el Consejo General del Poder Judicial controlar a los programadores? 315 f) ¿Será necesario un estatuto jurídico del programador? ..... 316 IX. CONCLUSIONES: EL JUEZ-ROBOT ATACA A LA INDEPENDENCIA JUDICIAL Y POR ELLO NO PUEDE SER IMPLEMENTADO EN LA JUSTICIA............................................................................... 319 X. BIBLIOGRAFÍA ................................................................................. 327

I. INTRODUCCIÓN: OBJETO DE LA INVESTIGACIÓN

El libro que a continuación presento es fruto de investigaciones específicas realizadas en España, en Alemania y en Italia.

Versa sobre el Juez-Robot, pero no abordo, ni siquiera a un nivel de conocimientos medio, su tratamiento específico no jurídico perteneciente a las ciencias experimentales, ni tampoco me detengo en consideraciones complementarias demasiado profundas pertenecientes a otras ciencias, seguramente necesarias, pero que debo dar por sabidas al menos con carácter general, como, por ejemplo, el concepto de algoritmo y la explicación sobre su modo de operar. Este libro contempla un problema concreto que la imparable creación y puesta en funcionamiento del Juez-Robot podría conllevar si no se es consciente de la trastienda y no se le pone adecuado remedio, a saber, el más que presumible ataque que su incardinación en el sistema judicial español, si se produjera, podría significar contra la independencia judicial.

Entender jurídicamente qué es el Juez-Robot podría afecta a varios aspectos. Para una mejor delimitación, permítaseme que exponga unas breves consideraciones introductorias.

En primer lugar, debería considerarse el aspecto técnico propio de la ciencia que lo ha desarrollado, la ciencia computacional de la inteligencia artificial (que a partir de ahora abreviaremos IA). En este sentido, no debería ser necesario saber mucho ni de matemáticas, ni de informática, ni de cibernética, ni de estadística cuando se produce un, llamémoslo de momento así, fenómeno procedente de la inteligencia artificial que puede poner en serio peligro la independencia judicial.

No niego la realidad, pues sin unos conocimientos mínimos es imposible comprender el tema. Por ello creo que, para analizarlo con rigor, habría que saber un poco de aquellas ciencias, pero insisto, sin agobios, sin profundizaciones estériles para los juristas,

Juan-Luis Gómez Colomer

porque al final de lo que hay que saber y bastante, si de juzgar hablamos, es de jueces y de justicia, es decir, de Derecho Procesal.

En segundo lugar, deberían tenerse en cuenta las consecuencias jurídicas de la introducción de la IA en el proceso. Conocer las cuestiones técnicas no es suficiente, pues hay que profundizar más para perfilar nítidamente de qué estamos hablando exactamente. Parto de las siguientes consideraciones:

1º) Mi principal intención, ya apuntada, es analizar la salvaguarda de la independencia judicial frente a la IA. Este punto constituye el objeto central de estudio de esta monografía.

2º) Pero ello conlleva tratar previamente, dentro ya del tema jurídico y con los conocimientos técnicos mínimos ya adquiridos, aspectos jurídicos más generales, siquiera sea a un nivel de conocimiento informativo-descriptivo, como, por ejemplo:

a) Creo que hay que informar en primer lugar sobre el estado de la cuestión, es decir, ofrecer al lector un cuidado resumen, siempre desde un punto de vista científico, sobre qué es la IA y cuál es su historia concreta, marcando las incidencias en lo jurídico;

b) Explico a continuación en términos muy generales y breves los conceptos básicos (porque no es una cuestión esencial un conocimiento profundo en estos temas, como dije antes);

c) Dentro de esas consideraciones iniciales, hay que precisar qué relaciones existen entre el Derecho y la IA, y en concreto, también con carácter general, las relaciones entre la IA y el Derecho Procesal;

d) Es importante informar sobre lo que sabe la gente normal de la IA y el Derecho, para lo que la consulta de la prensa, radio y televisión, además de otras fuentes de información, es imprescindible;

e) A continuación es imprescindible fijar los límites de la incorporación de la IA al Derecho, y esos límites nos los proporcionan principalmente las normas éticas, que en este

I. Introducción: Objeto de la investigación campo tiene ya un desarrollo importante y son de una gran relevancia.

f) Finalmente, debemos ofrecer información al lector sobre la regulación legal de las cuestiones afectadas por la IA, tanto en España como en los países estudiados (Alemania e Italia), así como en la Unión Europea. Esas normas afectan principalmente a los derechos fundamentales, razón por las que deberemos detenernos prevalentemente en este tema; y

2º) Una vez tratadas estas cuestiones, debemos entrar ya en el campo de relaciones entre la IA y el Derecho Procesal. Creo que se entiende mejor si se diferencia por bloques, estableciendo las instituciones jurídicas de contacto entre la IA y el Derecho Procesal. Así:

a) Analizo las incidencias de la IA en el campo del Derecho Orgánico Procesal, es decir, en la organización del Poder Judicial;

b) A continuación trato en apartados distintos las incidencias de la IA en los procesos civil y penal; y

c) Finalmente, me centro en el importante tema de la resolución del conflicto mediante la IA.

3º) Con estos conocimientos hay que entrar de lleno en la protección constitucional que se dispensa, específicamente en favor de los ciudadanos, ante los nuevos retos de la IA, tanto en España como en Alemania, Italia y en la Unión Europea. Por ello:

a) Analizo en primer lugar el impacto de la IA en los derechos humanos, fundamentales o cívicos;

b) Considero las propuestas de regulación legal, pues el tema está prácticamente empezando a estudiarse; y, finalmente

c) Advierto de los peligros y riesgos, algunos muy relevantes, que en este tema existen.

4º) Concluimos el estudio previo al Juez-Robot con un apartado dedicado a explicar la independencia y la imparcialidad judiciales,

Juan-Luis Gómez Colomer

no sólo tal y como se entienden constitucional y legalmente en España, a efectos de que el lector tenga claro de qué estamos hablando exactamente cuando afirmamos que la máquina de juzgar ataca a la independencia e imparcialidad judiciales, y que por ello no puede ser implementada en nuestro sistema de Justicia, al menos en su función decisora, tal y como se está empezando a implementar en algunos países en estos momentos ya.

5º) Sólo después de esas consideraciones paso a analizar el JuezRobot, el tema central como he indicado de mi investigación. La gran pregunta es si la creación y funcionamiento del Juez-Robot, como culminación en lo procesal de la Inteligencia Artificial, implica un ataque a la independencia judicial, pero hay otras cuestiones de importancia. En este sentido:

a) Trato de analizar jurídicamente el Juez-Robot y fijar el alcance -actual y futuro inmediato- de su labor;

b) A continuación explico las bases de la construcción de la máquina de juzgar, así como su funcionamiento y resultados;

c) Me detengo en lo que considero que deben ser reglas infranqueables respecto a su uso y aplicación;

d) Estudio los aspectos de la decisión judicial automatizada que más nos pueden afectar en la realidad actual;

e) También me detengo en unas consideraciones sobre la responsabilidad del robot, tema de una gran complejidad, pero de enorme trascendencia;

f) Concreto los peligros que nos acechan por el uso del JuezRobot; y

g) Finalmente, analizo con detenimiento la vulneración de los principios constitucionales de la independencia e imparcialidad judiciales que el Juez-Robot, indubitadamente, supone.

Al final de esta obra, formulo unas conclusiones, entre las que destaco mi oposición fundada a que exista un Juez-Robot que pueda decidir autónomamente, aun con acuerdo entre las par-

I. Introducción: Objeto de la investigación

tes, litigios civiles o causas penales, por muy insignificantes que sean, porque como tal el Juez-Robot es incompatible, en el estado jurídico-constitucional actual de la cuestión, con el principio de la independencia judicial.

Cierro con un índice bibliográfico. No es exhaustivo, a pesar de que en algunos puntos aquí tratados la bibliografía es ya más que notable. Sólo he pretendido centrarme en la cuestión de si el Juez-Robot es viable o no en función de las consecuencias jurídicas que su posible introducción en España podría conllevar. Lo demás (concepto de la IA, historia de la IA, funcionamiento de la IA, cuestiones de lenguaje, programación, conocimiento y límites de la IA, etc., etc.), aunque he debido de alguna manera considerarlo, y aquí la bibliografía en general es ya muy amplia, no es relevante a los efectos que pretendo con este libro, y consecuentemente los fundamentos doctrinales tampoco interesan, sin negar ningún valor ni mérito, todo lo contrario, a quienes se han adentrado, siendo juristas, en vericuetos a veces tan opacos y faltos de transparencia como los que afectan a la IA, al menos de momento.

Cito por ello lo que considero relevante con relación a ese aspecto concreto y nada más. Sobre la relación entre la IA y el Derecho existe ya una relativamente amplia bibliografía, pero sobre el Juez-Robot específicamente, todavía nos movemos en zona de productos y resultados escasos. Eso sí, es un estudio de Derecho comparado, en la medida en que un problema jurídico internacional como éste pueda ser analizado desde esa perspectiva, y, por tanto, la bibliografía alcanza a lo español, alemán, italiano, inglés, francés y portugués.

No hay prácticamente jurisprudencia en este tema en ninguno de los países consultados, en ningún caso sentencias que afecten directamente o traten sobre el Juez-Robot.

Entremos en materia, pues, considerando primero el estado de la cuestión.