1_9788411309769 by Editorial Tirant Lo Blanch

ASPECTOS JURÍDICOS DE ACTUALIDAD EN EL ÁMBITO DEL DERECHO DIGITAL

COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH María José añón roig

Catedrática de Filosofía del Derecho de la Universidad de Valencia

ana Cañizares Laso

Catedrática de Derecho Civil de la Universidad de Málaga

Jorge a. Cerdio Herrán

Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México

José raMón Cossío díaz

Ministro en retiro de la Suprema Corte de Justicia de la Nación y miembro de El Colegio Nacional

eduardo Ferrer MaC-gregor Poisot

Juez de la Corte Interamericana de Derechos Humanos, Investigador del Instituto de Investigaciones Jurídicas de la UNAM

owen Fiss

Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)

José antonio garCía-CruCes gonzáLez

Catedrático de Derecho Mercantil de la UNED

Luis LóPez guerra

Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid

ángeL M. LóPez y LóPez

Catedrático de Derecho Civil de la Universidad de Sevilla

Marta Lorente sariñena

Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid

víCtor Moreno Catena

Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid

FranCisCo Muñoz Conde

Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla

angeLika nussberger

Catedrática de Derecho Constitucional e Internacional en la Universidad de Colonia (Alemania) Miembro de la Comisión de Venecia

HéCtor oLasoLo aLonso

Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)

LuCiano PareJo aLFonso

Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid

ConsueLo raMón CHornet

Catedrática de Derecho Internacional Público y Relaciones Internacionales de la Universidad de Valencia

toMás saLa FranCo

Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia

ignaCio sanCHo gargaLLo

Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España

toMás s. vives antón

Catedrático de Derecho Penal de la Universidad de Valencia

rutH ziMMerLing

Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)

Javier de LuCas Martín

Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia

Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales

ASPECTOS JURÍDICOS DE ACTUALIDAD EN EL ÁMBITO DEL DERECHO DIGITAL

JULIA ROPERO CARRASCO Coordinadora

tirant lo blanch Valencia, 2023

Copyright ® 2023 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor. En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com. La presente obra ha sido sometida a la revisión de pares ciegos según el protocolo de publicación de la editorial a efectos de ofrecer el rigor y calidad correspondiente tanto en su contenido como en su forma, aplicándose los criterios específicos aprobados por la Comisión Nacional E 016 (BOE num. 286, de 26 de noviembre de 2016).

© TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email:tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es DEPÓSITO LEGAL: V-3358-2022 ISBN: 978-84-1130-976-9 MAQUETA: Disset Ediciones Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro procedimiento de quejas. Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf

Índice La inteligencia artificial y el Derecho penal: Nuevos problemas surgidos en la era digital BEATRIZ GARCÍA SÁNCHEZ

1. Introducción........................................................................................ 1.1. Conceptos básicos.................................................................. 1.2. Fundamento del desarrollo y usos de la IA.............................

14 14 18

2. Clases de IA.........................................................................................

3. IA y derecho penal............................................................................... 3.1. Orígenes. Delimitación de la problemática............................. 3.2. Proyecciones (casos)............................................................... 3.3. Algunas consecuencias jurídico penales en la aplicación de la IA.......................................................................................

21 21 22

4. Conclusiones.......................................................................................

5. Referencias bibliográficas....................................................................

Evolución legislativa de la intervención de las comunicaciones en el proceso penal hasta el Anteproyecto de Ley de Enjuiciamiento Criminal de 2020: hacia la digitalización de la justicia penal CARMEN RODRÍGUEZ RUBIO

1. Introducción........................................................................................

2. La interceptación de las comunicaciones en los códigos procesales y en las constituciones decimonónicas.........................................................

3. Los convenios internacionales en materia de derechos humanos..........

4. La intervención de las comunicaciones a través de Ley Orgánica 4/1988, de 25 de mayo........................................................................

5. La conservación de datos en las directivas europeas............................

6. La regulación de la interceptación de las comunicaciones tras la reforma operada por la ley de regulación de las medidas de investigación tecnológica..........................................................................................

7. La interceptación de las comunicaciones telefónicas y telemáticas en el Anteproyecto de Ley de Enjuiciamiento Criminal de 24 de noviembre de 2020...............................................................................................

Índice

8. Digitalización de la justicia..................................................................

9. Bibliografía..........................................................................................

La predicción del futuro en la lucha contra el terrorismo: una aproximación crítica al "discurso sobre la radicalización" y sus consecuencias sociopolíticas CARLOS FERNÁNDEZ ABAD

1. Introducción........................................................................................

2. El "discurso sobre la radicalización" como medio para predecir y gobernar el futuro...................................................................................

3. Sobre las consecuencias de convertir el futuro en presente: la performatividad del "discurso sobre la radicalización" y la generación de una comunidad sospechosa.................................................................

4. Conclusiones.......................................................................................

105

5. Referencias bibliográficas....................................................................

105

Medios de tecnovigilancia e investigaciones internas en el ámbito empresarial: algunas consideraciones sobre la tutela penal y procesal del secreto de las comunicaciones y la intimidad (¿derechos negociables?) JOSÉ LEÓN ALAPONT

1. Introducción........................................................................................

114

2. Compliance, investigaciones internas y medios de investigación..........

116

3. El canon de la expectativa razonable de privacidad.............................

118

4. La aportación de pruebas obtenidas por particulares con vulneración de derechos fundamentales..................................................................

130

5. Conclusiones.......................................................................................

138

6. Referencias bibliográficas....................................................................

139

Inteligencia artificial ¿una herramienta de doble filo? Especial referencia a su aplicación en el ámbito de la violencia de género SANDRA LÓPEZ DE ZUBIRÍA DÍAZ

1. Aproximación teórica sobre la inteligencia artificial............................ 1.1. Conceptualizando lo desconocido.......................................... 1.2. ¿Ficción o realidad? Algunas aplicaciones reales de la IA.......

142 143 145

2. Discriminación algorítmica vs. artificiosa neutralidad..........................

148

3. El uso de la IA ante el fenómeno de la violencia de género.................. 3.1. Usos actuales: especial referencia al sistema VIOGEN...........

152 154

Índice

3.2. Reflexiones en torno a nuevas aplicaciones en este ámbito.....

158

4. Conclusiones.......................................................................................

160

5. Referencias bibliográficas.................................................................... Legislación y normativa.................................................................

161 164

La creación de una Política Criminal en Europa en el ámbito de las nuevas tecnologías: especial referencia a la inteligencia artificial ÁLVARO ALZINA LOZANO

1. Introducción........................................................................................

165

2. Aproximación jurídica al concepto de Inteligencia Artificial................

167

3. La regulación de la inteligencia artificial en el ámbito de la Unión Europea................................................................................................... 3.1. El Reglamento de Inteligencia Artificial..................................

174 180

4. La responsabilidad penal y civil de la inteligencia artificial en los robots: ¿es necesaria una política criminal al respecto?...........................

184

5. Conclusiones.......................................................................................

188

6. Referencias bibliográficas....................................................................

189

Biotecnología, Derechos Humanos y Transhumanismo FELIPE DEBASA

1. Introducción........................................................................................

192

2. De la Liga de Naciones a la UNESCO.................................................

196

3. El genoma y los derechos humanos.....................................................

198

4. El cuerpo humano convertido en datos................................................

203

5. La clonación humana y bioética..........................................................

207

6. Conclusiones.......................................................................................

211

7. Referencias bibliográficas....................................................................

212

Uso de la fuerza y ciberespacio: una cuestión preliminar ELENA CAROLINA DÍAZ GALÁN

1. Introducción........................................................................................

216

2. Los Miembros de la Organización (y todos los entes que operen en el ciberespacio)........................................................................................

221

3. Se abstendrán de recurrir a la amenaza o al uso de la fuerza (también, ataques y operaciones cibernéticas).....................................................

230

Índice

4. Conclusiones.......................................................................................

239

5. Referencias Bibliográficas....................................................................

241

La lucha contra el terrorismo en el marco de la Europa de la seguridad digital. Especial referencia al Reglamento (UE) 2021/784 del Parlamento Europeo y del Consejo, de 29 de abril de 2021, sobre la lucha contra la difusión de contenidos terroristas en línea JOSÉ ENRIQUE ANGUITA OSUNA

1. Proceso de configuración de la Europa de la seguridad digital............. 2. La acción de la Unión Europea en la lucha contra el terrorismo desde un marco digital.................................................................................. 2.1. Aspectos generales sobre el fenómeno terrorista en Europa.... 2.2. La acción de la Unión Europea contra el terrorismo.............. 2.3. Algunos éxitos cosechados en la lucha contra la radicalización en línea y el almacenamiento de datos ilícitos terroristas..

246 252 252 255 260

3. Referencia al Reglamento (UE) 2021/784 sobre la lucha contra la difusión de contenidos terroristas en línea..............................................

264

4. Conclusiones.......................................................................................

271

5. Referencias Bibliográficas.................................................................... Bibliografía.................................................................................... Normas y documentos................................................................... Webgrafía......................................................................................

273 273 274 275

La ciudadanía europea digital GABRIEL MARTÍN RODRÍGUEZ

1. La ciudadanía de la Unión Europea.....................................................

278

2. ¿Qué es la ciudadanía europea digital?................................................ a. El ámbito digital en la perspectiva del estudio de los derechos....................................................................................... b. La participación de los ciudadanos europeos......................... c. Declaración de la UE sobre derechos y principios digitales....

280 280 284 292

3. Humanismo digital: la visión de la UE para la década digital..............

299

4. Condición jurídica y objetivos.............................................................

300

5. Bibliografía..........................................................................................

302

Índice

Derecho Constitucional, derechos fundamentales y su adaptación a la era digital: una aproximación al derecho al olvido PABLO FERNÁNDEZ DE CASADEVANTE MAYORDOMO

1. Introducción: los derechos fundamentales ante la era digital. Una mirada global..........................................................................................

304

2. Derecho Constitucional español, derechos fundamentales y digitalización..................................................................................................... 2.1. El derecho a la protección de datos como punto de partida... 2.2. El derecho al olvido...............................................................

309 310 315

3. Conclusiones.......................................................................................

323

4. Referencias bibliográficas....................................................................

326

Concepto de empresa en la sociedad digitalizada: referencia a las Fintech FÁBIO DA SILVA VEIGA

1. Introducción........................................................................................

329

2. El concepto de empresa.......................................................................

331

3. La digitalización de las empresas......................................................... 3.1. Concepto de Fintech.............................................................. 3.2. Las empresas FinTech como oportunidades de inclusión financiera y social.................................................................... 3.3. La [auto]regulación de las Fintech.........................................

331 333

4. Conclusiones.......................................................................................

337

5. Bibliografía..........................................................................................

338

335 335

Dos modelos de intervención de la administración en internet desde la buena administración a debate: procedimiento de lucha contra la desinformación y el Online Harms White Paper JOSE IGNACIO HERCE MAZA

1. Prolegómenos......................................................................................

340

2. Regulación de internet, fake news y derechos fundamentales............... A. Internet y Derechos Fundamentales........................................ B. La misión de la regulación de Internet es la defensa y promoción de los derechos fundamentales de las personas..........

342 342

3. La lucha contra la desinformación: dos modelos a debate................... A. El Online Harms White Paper y el procedimiento de lucha contra la desinformación........................................................ a. Forma legal.................................................................

348

346

348 350

Índice

b. c.

Concepto de desinformación...................................... Los problemas derivados de la determinación de la veracidad, especial referencia a la libertad de información........................................................................ Espíritu sobre la lucha contra la desinformación........ Estructura administrativa........................................... Sistema de lucha contra la desinformación................. Colaboración internacional........................................ Papel de la sociedad civil en la lucha contra la desinformación................................................................... Concreción de las medidas de lucha contra la desinformación................................................................... Sistema sancionatorio................................................. La necesaria Buena Administración en la lucha contra la desinformación..................................................

351

4. Conclusiones: ¿Hacia un Ministerio de la Verdad?..............................

362

5. Referencias bibliográficas....................................................................

364

d. e. f. g. h. i. j. k.

352 354 354 356 357 358 359 359 360

Análisis multidisciplinar sobre las posibles vulneraciones de derechos en el uso de la inteligencia artificial en el Derecho Penal MERCEDES YELA UCEDA

1. Introducción........................................................................................

370

2. El concepto de Inteligencia Artificial (IA).............................................

371

3. El uso de la Inteligencia Artificial en el Derecho Penal.........................

376

4. El uso de la inteligencia artificial en la Criminología y la presunta discriminación existente.......................................................................

385

5. Conclusiones.......................................................................................

393

6. Bibliografía..........................................................................................

394

La inteligencia artificial y el Derecho penal: Nuevos problemas surgidos en la era digital BEATRIZ GARCÍA SÁNCHEZ1

Sumario. 1. Introducción. 1.1. Conceptos básicos. 1.2. Fundamento del desarrollo y usos de la IA. 2. Clases de IA. 3. IA y Derecho Penal. 3.1. Orígenes. Delimitación de la problemática. 3.2. Proyecciones (casos). 3.3. Algunas consecuencias jurídico-penales en la aplicación de la IA. 4. Conclusiones. 5. Referencias bibliográficas.

Resumen: La Inteligencia Artificial (IA) ha llegado para quedarse y por ello debemos evaluar las implicaciones que el uso de la misma tiene en todos los ámbitos sociales, jurídicos, económicos, etc. Por lo que a esta contribución corresponde, se trata de plasmar algunas de estas aplicaciones de la IA en el Derecho penal para detectar los problemas y peligros que ello conlleva y pudiera conllevar en un futuro: sobre todo, en lo que afecta a la necesidad de una regulación y limitación de su uso para evitar la lesión de principios y derechos fundamentales (como principio de lesividad, presunción de inocencia, intimidad, privacidad, igualdad…); y, por otro, la determinación de la responsabilidad penal por los daños o lesiones ocasionadas finalmente por dicho uso. El objetivo de la presente contribución no es ofrecer soluciones definitivas sino uno mucho más modesto: tratar de delimitar la problemática a través de ejemplos para en un futuro dar soluciones a dicha realidad. Palabras claves: inteligencia artificial; discriminación algorítmica; big data; intimidad; protección de datos

Titular de Derecho Penal de la Universidad Rey Juan Carlos. Email de correspondencia: beatriz.garcia@urjc.es.

Beatriz García Sánchez

INTRODUCCIÓN

1.1. Conceptos básicos Hoy en día cuando hablamos de Inteligencia Artificial (en adelante IA) uno piensa en robots, en manejo de datos, en el término big data…, pero en realidad la mayoría (incluso los que estudiamos el tema, o estamos empezando a investigar en el mismo) no podemos imaginar, más allá de las películas de ciencia ficción (que ya no van siendo de tal género), la cantidad de aplicaciones que la IA puede llegar a tener en todos los aspectos (sociales, políticos, económicos, jurídicos…), así como las consecuencias, tanto beneficiosas como perjudiciales y peligrosas, que pudiera ocasionar sus múltiples usos para los derechos fundamentales de los individuos 2. Hasta tal punto, que alguna autora ha llegado a plantearse si algún día la justicia podrá ser impartida por robots, lo que se denomina revolución 4.0, o cuarta revolución industrial, que, aunque parece que no sea algo inmediato en España hay que afrontarlo por los posibles problemas en cuanto a la garantía de derechos fundamentales se refiere, o por las implicaciones que para los jueces pudiera suponer el no ceñirse a los dictámenes de una máquina 3. Incluso se ha llegado a afirmar, desde hace ya varias décadas, que determinadas aplicaciones podrían poner en peligro a la especie humana 4.

SANTOS GONZÁLEZ, M: “Regulación legal de la robótica y la inteligencia artificial: retos de futuro”, Revista Jurídica de la Universidad de León, vol. 4, 2017, pp. 25-50, apunta alguna de las consecuencias del uso de la IA, como la reorganización del mercado laboral al emplearse a robots como mano de obra. En este sentido, HERNÁNDEZ GIMÉNEZ, M., “Inteligencia Artificial y Derecho penal”, en Actualidad jurídica Iberoamericana, núm. 10 bis, 2019, pp. 797-799. De ahí, que ya desde el siglo pasado se formulasen las “tres leyes de la robótica”, por Gregory Powell precisadas de la siguiente forma: 1) “Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño. 2) Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley. 3) Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley” (en ASIMOV, I.: I, Robot, Runaround, Street and Smith Publications, 1970, pp. 20-34, en https://es.calameo.com/ books/00660256428e72d719714, Consultado el 5 de abril de 2022). Afortuna-

La inteligencia artificial y el Derecho penal: Nuevos problemas surgidos en la era digital

Como se puede desprender de las breves anotaciones realizadas en las líneas precedentes, la materia es digna de estudio debido a la generalización de la aplicación de la IA en la actualidad 5, por su bajo coste y sus beneficios, a las repercusiones que puede conllevar, y a la necesidad de dar respuesta a otras tantas cuestiones que se nos plantea desde el ámbito jurídico. Por ello y por lo que corresponde a esta contribución, me he decidido a abordar esta materia comenzando por lo básico, esto es, intentando un acercamiento esquemático al concepto de IA, en primer lugar, para, a continuación, abordar algunas de sus implicaciones y proyecciones en el derecho penal de la actualidad y, finalmente, presentar los problemas o algunas consecuencias jurídicopenales que su uso produce y las que pudieran producirse en un futuro no muy lejano, en el que el desarrollo de la tecnología alcance un mayor o superior estadio. Creo que esta investigación debe tener una continuidad a futuro en la que se aborde y se propongan las distintas soluciones jurídicas que puedan contribuir a un uso más eficiente para el Derecho penal y menos lesivo para los bienes jurídicos susceptibles de ser afectados. De esta manera, en estos momentos, creo más necesario detectar los casos y plantear los problemas como requisitos necesarios para poder proponer soluciones con posterioridad, acordes con los principios vigentes en derecho penal, con las funciones de este y, a su vez, dar respuesta a las lesiones de bienes jurídicos fundamentales desde distintos ámbitos del ordenamiento jurídico. Como es central en toda investigación, y más si cabe en esta materia tan novedosa y desconocida para muchos, lo primero que hay que abordar es el concepto o definición de la IA para delimitar el objeto de

damente parece que todavía no nos encontramos en tal fase, según han apuntado estudiosos en el tema como se precisará con posterioridad. Por ejemplo, cabe destacar que en “El libro blanco de la justicia” de 1998, el Consejo General del Poder Judicial habla de la necesidad de incorporar los sistemas de comunicación informática y electrónica para evitar las dilaciones características de los procedimientos tradicionales. Así, el propio Consejo reconoce que “mientras no se consiga una informatización real, integral e integrada e intercomunicada, muchos de los actuales males de la Justicia no se solucionarán debidamente”, ya que, consideran, la reforma de la Administración de Justicia no es posible sin la informatización de los órganos judiciales. Por tanto, ya desde finales del siglo pasado han sido ya numerosos los avances tecnológicos aplicados a la Administración de Justicia, tales como como la e-justicia; o los nuevos medios de investigación al servicio de la policía gracias a la reforma de la LOPJ, etc.

Beatriz García Sánchez

estudio, teniendo en cuenta, además, que constituye un término acuñado muy recientemente, al menos en la jerga jurídico-penal española (pese a que se data su uso desde finales de la 2ªGM). Por cuestiones de espacio, vamos a utilizar solo algunas de dichas definiciones, señalando que en la actualidad ya existen una variedad de ellas desde distintos ámbitos del conocimiento y sectores 6. Como ya es tradicional, tomaremos como punto de partida la ofrecida por la Real Academia de la Lengua, según la cual la IA es la “disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico”. A nivel europeo (y normativo) cabe reseñar lo apuntado por el Comité Económico y Social Europeo, en el Dictamen sobre La Inteligencia Artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad, en el que ya se concretaba, en 2017, cuál era el objetivo fundamental que persigue esta disciplina: “la automatización de comportamientos inteligentes como razonar, recabar información, planificar, aprender, comunicar, manipular, observar e incluso crear, soñar y percibir” 7. Más recientemente, la Comisión Europea entiende por IA aquellos sistemas “que muestran un comportamiento inteligente analizando su entorno y tomando medidas, con cierto grado de autonomía, para logar objetivos específicos” 8. Una definición más reciente y muy clarificadora es la propuesta por Kaplan y Haenlein, expertos en la materia, para quienes la IA se

Vid. una múltiples definiciones en MIRÓ LLINARES, F., “El sistema penal ante la Inteligencia artificial: actitudes, usos, retos”, en Silva Dupuy de Repetto D. y Corvalán, J. G. (directores), Kiefer, M. (coord.), Cibercrimen III: Inteligencia Artificial, Automatización, algoritmos y prediccioes en el Derecho penal y derecho procesal, 2020, p. 82-83, atendiendo bien al tipo de proceso de pensamiento y razonamiento utilizado por el sistema, o bien al éxito en relación con el rendimiento humano o con una racionalidad ideal. Comité Económico y Social Europeo, Dictamen del Comité Económico y Social Europeo Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad, Diario Oficial de la Unión Europea C 288/1, 31 de agosto de 2017, p. 3. EUROPEAN COMISSIÓN, Building Trust in Human-Centric Aritificial Intelligence, COM (2019) 168 FINAL, abril, 2019.

La inteligencia artificial y el Derecho penal: Nuevos problemas surgidos en la era digital

puede entender como “la capacidad de un sistema para interpretar correctamente datos externos, aprender de ellos y utilizar el aprendizaje para alcanzar objetivos y realizar tareas específicas a través de una adaptación flexible” 9. A nivel supranacional la Recomendación aprobada en el seno de la UNESCO, el 22 de noviembre de 2021, también la define 10: “Los sistemas de IA son tecnologías de procesamiento de la información que integran modelos y algoritmos que producen una capacidad para aprender y realizar tareas cognitivas, dando lugar a resultados como la predicción y la adopción de decisiones en entornos materiales y virtuales. Los sistemas de IA están diseñados para funcionar con diferentes grados de autonomía, mediante la modelización y representación del conocimiento y la explotación de datos y el cálculo de correlaciones. Pueden incluir varios métodos, como, por ejemplo, aunque no exclusivamente: i) el aprendizaje automático, incluido el aprendizaje profundo y el aprendizaje de refuerzo, ii) el razonamiento automático, incluidas la planificación, la programación, la representación del conocimiento y el razonamiento, la búsqueda y la optimización”. En conclusión, el concepto de Inteligencia Artificial hace referencia a aquellos sistemas informáticos creados o programados para realizar funciones semejantes a las llevadas a cabo por la inteligencia humana, y la gran duda, en estos momentos, que nos debemos plantear es hasta dónde una máquina o un sistema experto puede realizar labores propias de un humano (aprender, memorizar, racionalizar, sentir…); y, a su vez, con qué grado de autonomía las puede ejecutar. Aquí está la clave en la solución de los problemas que plantea la utilización de la IA en el Derecho y, en concreto, en el ámbito penal: determinar, por un lado, las posibles conductas lesivas que pueden producirse por dichos sistemas (o por la utilización de dichos sistemas) para los bienes jurídicos en cuestión; y por otro, la determinación del sujeto responsable penal por dichas conductas lesivas.

KAPLAN, A., HAENLEIN, M., “Siri, Siri, in my hand: Who´s the fairest in the land? On he interpretations, illustrations, and implications of artificial intelligence”, en Business Horizons, 2019, vol. 62, núm. 1, pp. 15-25. Recomendación sobre la Ética de la Inteligencia Artificial, aprobada el 22 de noviembre de 2021, en https://unesdoc.unesco.org/ark:/48223/pf0000380455_spa (Consultada el 7 de abril de 2022).

Beatriz García Sánchez

Hay muchos más conceptos que giran en torno al término de IA, pero por cuestiones de espacio son imposibles abordarlas en este momento. Sin embargo, sí que se podría apuntar alguno de ellos como machine learning, subespecie de la I. A (realización de estadísticas para obtener resultados); deep learning, simulación de redes neuronales –sistema informático que ordena la información como lo hiciera un cerebro humano-, mediante el cual se lleven a cabo algoritmos más complejos y decisiones más complejas; data mining, sistema que permite encontrar patrones y resumir de forma útil cantidad ingente de datos para facilitar la toma de soluciones; lenguajes de programación (R, Python), que se refieren a la forma de comunicarse con las máquinas por parte del ser humano, pues no conocen el lenguaje natural ya que estas no entienden ni de reglas gramaticales, ni tienen sentimientos (aunque parece que sí son capaces de reconocerlos), ni ambigüedades, ni sinónimos, ni expresiones, ni refranes, ni ironías, sarcasmos…; PLN (Procesamiento del lenguaje natural), que se refiere a la ciencia de la IA que se ocupa de la comunicación entre seres humanos y máquinas y que permite que un sistema informático reconozca la voz humana y reaccione ante ella; data sciences, ciencia de datos, consistente en la transformación de datos en información valiosa (esto es lo más conocido y lo más aplicado en marketing).

1.2. Fundamento del desarrollo y usos de la IA Pese al desconocimiento que existe en la actualidad sobre la IA y sus aplicaciones e implicaciones en el ámbito de las ciencias jurídicas, sí que somos conscientes del desarrollo tecnológico que hemos experimentado en las dos últimas décadas, sobre todo, de su extensa aplicación y de los beneficios del mismo en la totalidad de los ámbitos de su actuación. Y ello por distintos motivos: disminución del coste de la tecnología en los últimos años (aunque todavía sigue siendo muy cara la alta tecnología a corto plazo, con lo que se abre otra brecha digital entre los distintos operadores jurídicos, en función de su capacidad económica para invertir en la misma –piénsese en las desigualdades entre los distintos despachos de abogados-); aumento considerable del rendimiento de la misma por su gran capacidad en la ejecución de las tareas, que tradicionalmente venían desarrollándose por los humanos (piénsese en los robots abogados, sistemas que a partir de un ingente

La inteligencia artificial y el Derecho penal: Nuevos problemas surgidos en la era digital

manejo de datos pueden dar respuesta en poco tiempo, ejecutando el trabajo que hubieran tenido que llevar a cabo una multitud de abogados en más tiempo); gran capacidad en el procesamiento de datos con resultados óptimos; y su proyección transversal, es decir, aplicabilidad y utilidad en multitud de ámbitos al mismo tiempo. Sin embargo, junto a los beneficios que los usos de la tecnología comportan no hay que perder de vista los problemas o peligros y lesiones para bienes jurídicos que se pueden producir 11. De esta manera, habrá que abordar tales consecuencias desde los distintos ámbitos afectados para intentar evitar que se produzcan o reaccionar cuando ello ocurra 12. En esta contribución nos ciñéremos a la perspectiva penal.

CLASES DE IA

Hay distintas clasificaciones de la IA atendiendo a las capacidades que se atribuyen a la misma. En una primera clasificación ofrecida por un grupo de autores, con la que me hago partícipe por entenderla más clarificadora en cuanto a los distintos sistemas de IA se refiere, se distingue tres niveles: la IA débil, la IA General o media y la IA fuerte o Super Inteligencia 13. De esta forma, la IA débil sería aque-

Al respecto, MIRÓ LLINARES, F., “El sistema penal ante la Inteligencia artificial: actitudes, usos, retos”, en Silva Dupuy de Repetto D. y Corvalán, J. G. (directores), Kiefer, M. (coord.), Cibercrimen III: Inteligencia Artificial, Automatización, algoritmos y prediccioes en el Derecho penal y derecho procesal, 2020, pp. 91-99, analiza las distintas posturas que se han manifestado ya en la doctrina sobre los beneficios y perjuicios del uso de la IA. En este sentido, la matemática O´Neil, C., Armas de destrucción matemática. Cómo el big data aumenta la desigualdad y amenaza la democracia, Capitán Swing, Madrid, 2017, 269 pags, realiza, desde una perspectiva práctica/crítica y en la sociedad norteamericana, los peligros que el uso generalizado de la IA y del big data pueden conllevar en todos los ámbitos y resalta la necesidad de corrección de los resultados para evitar la discriminación y desigualdad que sus usos pueden tener. BROADHURST, R. MAXIM, D., BROWN, P., TRIVEDI, H., WANG, J., “Artificail intelligence and Crime. A Research Report for the Korean Institute of Criminology”, 2018. Otra clasificación de la IA, vid. en BARONA VILAR, S., “Reflexiones en torno al 4.0 y la inteligencia artificial en el proceso penal”, Ius Puniendi, vol. 7, 2018, pp. 313-336; HERNÁNDEZ GIMÉNEZ, M., “Inteligen-

Beatriz García Sánchez

lla que consiste en los sistemas informáticos que permiten aprender automáticamente para la realización de tareas para los que han sido programados, constituyendo esta IA la más generalizada en la actualidad en todos los campos, incluido en el del derecho (por ejemplo, el tratamiento masivo de datos –big data-, etc.); la IA media, se referirá a aquellos sistemas capaces de comprender y actuar como los seres humanos (con todas sus capacidades, razonar, sentir…); y, finalmente, la IA fuerte (o Superinteligencia), con la que se denomina a aquellos sistemas que superarían las capacidades del ser humano. Dicha clasificación es importante pues la clave en las relaciones e implicaciones entre la IA y el Derecho penal está, como se indicó con anterioridad, en las capacidades que puede llevar a cabo una IA: si tiene sentimientos, capacidad de razonar…, en definitiva, si tiene autonomía en su “actuar” frente a las distintas personas físicas (o jurídicas) que entran en relación con la misma. En este sentido, son muchas las voces que han tratado de delimitar tales extremos y a ellas, a los especialistas, hay que remitirse para saber el alcance, en la actualidad, de ese “actuar” de la IA; teniendo en cuenta que todo ello se encuentra en continuo desarrollo y lo que hoy no es posible, en cuanto a dichas capacidades se refiere, puede que mañana si lo sea. De esta forma, me uno a lo expresado brillantemente por el especialista en la materia Miró Llinares quién afirma que “Existe un claro acuerdo acerca de que la mayoría de los sistemas de IA existentes en la actualidad pertenecen al primer grupo, a la IA débil, y que bajo esa denominación en la actualidad lo que se encuentran son infinidad de técnicas avanzadas de procesamiento matemático de datos…” 14, lo

cia Artificial y Derecho penal”, en Actualidad jurídica Iberoamericana, núm. 10 bis, 2019, pp. 796-797; MORALES MORENO, A. M., “Inteligencia artificial y Derecho peal: Primeras aproximaciones”, en Revista jurídica de Castilla y León, número 53, 2021, pp. 187-188, quien diferencia solo dos niveles y atribuyendo a cada uno un contenido distinto a la clasificación apuntada en el texto: IA débil y IA fuerte. MIRÓ LLINARES, F., “El sistema penal ante la Inteligencia artificial: actitudes, usos, retos”, en Silva Dupuy de Repetto D y Corvalán, J. G (directores), Kiefer, M. (coord.), Cibercrimen III: Inteligencia Artificial, Automatización, algoritmos y prediccioes en el Derecho penal y derecho procesal, 2020, pp. 84-89, quien indica concretamente que en la actualidad la IA funciona como un modelo matemático, pero no tiene capacidad de razonar, esto es, no son capaces de “interpretar contextos complejos o de introducir por sí mismas variables nuevas, sino que