monografías ALTA CALIDAD EN INVESTIGACIÓN JURÍDICA
LORENZO COTINO HUESO JORGE CASTELLANOS CLARAMUNT Editores
TRANSPARENCIA Y EXPLICABILIDAD DE LA INTELIGENCIA ARTIFICIAL
TRANSPARENCIA Y EXPLICABILIDAD DE LA INTELIGENCIA ARTIFICIAL
COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH María José Añón Roig
Catedrática de Filosofía del Derecho de la Universidad de Valencia
Ana Cañizares Laso
Catedrática de Derecho Civil de la Universidad de Málaga
Jorge A. Cerdio Herrán
Catedrático de Teoría y Filosofía de Derecho Instituto Tecnológico Autónomo de México
José Ramón Cossío Díaz
Ministro en retiro de la Suprema Corte de Justicia de la Nación y miembro de El Colegio Nacional
Eduardo Ferrer Mac-Gregor Poisot
Juez de la Corte Interamericana de Derechos Humanos. Investigador del Instituto de Investigaciones Jurídicas de la UNAM
Owen Fiss
Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)
José Antonio García-Cruces González
Catedrático de Derecho Mercantil de la UNED
Luis López Guerra
Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid
Ángel M. López y López
Catedrático de Derecho Civil de la Universidad de Sevilla
Marta Lorente Sariñena
Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid
Javier de Lucas Martín
Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia
Víctor Moreno Catena
Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid
Francisco Muñoz Conde
Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla
Angelika Nussberger
Catedrática de Derecho Constitucional e Internacional en la Universidad de Colonia (Alemania) Miembro de la Comisión de Venecia
Héctor Olasolo Alonso
Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)
Luciano Parejo Alfonso
Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid
Consuelo Ramón Chornet
Catedrática de Derecho Internacional Público y Relaciones Internacionales de la Universidad de Valencia
Tomás Sala Franco
Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia
Ignacio Sancho Gargallo
Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España
Tomás S. Vives Antón
Catedrático de Derecho Penal de la Universidad de Valencia
Ruth Zimmerling
Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)
Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales
TRANSPARENCIA Y EXPLICABILIDAD DE LA INTELIGENCIA ARTIFICIAL
Lorenzo Cotino Hueso Jorge Castellanos Claramunt (Editores)
tirant lo blanch Valencia, 2022
Copyright ® 2022 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor. En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com.
© VV.AA.
© TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email:tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es ISBN: 978-84-1147-161-9 MAQUETA: Tink Factoría de Color Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-deempresa nuestro procedimiento de quejas. Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf
Autores (por orden de aparición)
Lorenzo Cotino Hueso
Catedrático de Derecho Constitucional Universitat de València
Alfred Peris Manguillot
Catedrático. Institut Universitari de Matemàtica Pura i Aplicada Universitat Politècnica de València
Raquel Valle Escolano
Profesora de Derecho Constitucional UNIR
Gabriele Vestri
Profesor Ayudante Doctor de Derecho Administrativo Universidad de Cádiz
María Estrella Gutiérrez David Profesora de Derecho Constitucional Universidad Complutense de Madrid
Salvatore Palumbo
Doctor por la Universitat de València y la Università degli Studi di Palermo
Juan Manuel Belloto Gómez Director de GuIA, OdiseIA
Javier Plaza Penadés
Catedrático de Derecho Civil Universitat de València
Adrián Todolí Signe
Profesor Titular de Derecho del Trabajo y de la Seguridad Social Universitat de València
Contenido general de la obra Bloque I. Transparencia y explicabilidad de la inteligencia artificial. Elementos conceptuales, generales y de género • Transparencia y explicabilidad de la inteligencia artificial y “compañía” (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta, por Lorenzo Cotino Hueso, Catedrático de Derecho Constitucional, Universitat de Valencia. • Algoritmos: ¿podemos hacerlos transparentes y trazables en su proceso?, por Alfred Peris Manguillot, Catedrático. Institut Universitari de Matemàtica Pura i Aplicada, Universitat Politècnica de València. • Transparencia en la inteligencia artificial y en el uso de algoritmos: una visión de género, por Raquel Valle Escolano, Profesora de Derecho Constitucional, UNIR.
Bloque II. Transparencia y explicabilidad en el uso de la inteligencia artificial por el sector público • Denegación vs. Derecho de acceso al código fuente en los sistemas algorítmicos. Una perspectiva jurídico-administrativa, por Gabriele Vestri, Prof. Ayudante Doctor de Derecho Administrativo, Universidad de Cádiz. • Acceso al código fuente y a los algoritmos de las Administraciones inteligentes. Lecciones a partir de experiencias comparadas, por María Estrella Gutiérrez David, Profesora de Derecho Constitucional, Universidad Complutense de Madrid. • Algoritmo y transparencia de la administración pública en el ordenamiento jurídico italiano. Algunas reflexiones críticas a partir del caso “Buona Scuola” , por Salvatore Palumbo, Doctor por la Universitat de València y la Università degli Studi di Palermo.
10
Contenido general de la obra
Bloque III. Transparencia y explicabilidad en la empresa, en la contratación y prestación de servicios de internet y en el ámbito laboral • Explicabilidad e inteligencia artificial responsable. Recomendaciones aterrizadas al día a día de las empresas, por Juan Manuel Belloto Gómez, Director de GuIA, OdiseIA. • La moderna configuración de la transparencia en la prestación de servicios y en la contratación en Internet, por Javier Plaza Penadés, Catedrático de Derecho Civil, Universitat de València. • Transparencia algorítmica en el ámbito laboral, por Adrián Todolí Signes, Prof. Titular de Derecho del Trabajo y de la Seguridad Social, Universitat de Valencia.
Índice Contenido general de la obra .............................................................
9
Presentación........................................................................................
17
Bloque I TRANSPARENCIA Y EXPLICABILIDAD DE LA INTELIGENCIA ARTIFICIAL. ELEMENTOS CONCEPTUALES, GENERALES Y DE GÉNERO Transparencia y explicabilidad de la inteligencia artificial y “compañía” (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta....................................................................................................
25
Lorenzo Cotino Hueso
I. LA TRANSPARENCIA, UN CONCEPTO POLISÉMICO, EVOCADOR Y ESENCIALMENTE INSTRUMENTAL, AHORA APLICADO AL ÁMBITO DE LA INTELIGENCIA ARTIFICIAL. II. TRANSPARENCIA Y EXPLICABILIDAD: EL PRINCIPIO DE REFERENCIA DE LA INTELIGENCIA ARTIFICIAL CONFIABLE................................................................................................ III. TRANSPARENCIA Y EXPLICABILIDAD ¿PARA QUÉ? LOS MUCHOS “CAMINOS” LOS QUE LLEVAN A LA “ROMA” DE LA TRANSPARENCIA.................................................................. IV. UN ESBOZO DE LAS EXIGENCIAS NORMATIVAS DE TRANSPARENCIA ALGORÍTMICA............................................ V. ¿CUÁNTA TRANSPARENCIA?.................................................... VI. LA “TRANSPARENCIA” COMO CONCEPTO GENERAL INCLUSIVO Y LA MIRÍADA DE NOCIONES QUE ORBITAN A SU ALREDEDOR.......................................................................... VII. TRANSPARENCIA “TÉCNICA”, TRANSPARENCIA INTRÍNSECA, INTERPRETABILIDAD, COMPRENSIBILIDAD, DESCOMPONIBILIDAD Y SIMULABILIDAD DEL SISTEMA DE INTELIGENCIA ARTIFICIAL...................................................... VIII. TRANSPARENCIA ¿PARA QUIÉN? TRANSPARENCIA “INTERNA” Y “EXTERNA”............................................................... 1. Transparencia interna y externa............................................... 2. La transparencia “interna” y el futuro Reglamento UE de inteligencia artificial como ejemplo................................................
25 29 31 36 38 41
42 45 45 46
12
IX. X.
XI. XII. XIII. XIV. XV.
XVI.
Índice
3. La transparencia “externa” como garantía de valores, principios y derechos constitucionales............................................... EXPLICABILIDAD. TIPOS Y ELEMENTOS PARA LOGRARLA. INTERPRETABILIDAD, TRANSPARENCIA Y EXPLICABILIDAD.............................................................................................. 1. La relación de la transparencia con la explicabilidad................ 2. Interpretabilidad y explicabilidad ¿son lo mismo?.................... AUDITABILIDAD DE LOS SISTEMAS DE IA Y CÓMO LOGRARLA....................................................................................... TRAZABILIDAD (Y DOCUMENTABILIDAD)............................ TESTABILIDAD, COMPROBABILIDAD, VERIFICABILIDAD (Y REPLICABILIDAD)....................................................................... TRANSPARENCIA ALGORÍTMICA COMO “COMUNICACIÓN”, NOTIFICACIÓN DE INTERACCIONES Y DE DECISIONES CON INTELIGENCIA ARTIFICIAL............................... OTROS CONTENIDOS BAJO EL GENÉRICO DE LA TRANSPARENCIA: INFORMES PERIÓDICOS, CÓDIGO ABIERTO, CONTRATACIÓN PÚBLICA ABIERTA, TRANSPARENCIA DE LAS EVALUACIONES DE IMPACTO........................................... UNA RECAPITULACIÓN, PARA CONCLUIR............................
Algoritmos: ¿podemos hacerlos transparentes y trazables en su proceso?............................................................................................................
48 50 55 55 57 58 61 62 63
65 67
71
Alfred Peris Manguillot
I. II. III. IV.
EL CONCEPTO DE ALGORITMO.............................................. REDES NEURONALES Y APRENDIZAJE PROFUNDO............. INTELIGENCIA ARTIFICIAL Y JUSTICIA.................................. ALGORITMOS MÁS ALLÁ DE LA INTELIGENCIA ARTIFICIAL.............................................................................................. V. CONCLUSIONES.........................................................................
Transparencia en la inteligencia artificial y en el uso de algoritmos: una visión de género................................................................................
71 74 78 80 82
85
Raquel Valle Escolano
I. INTRODUCCIÓN........................................................................ II. LA IA Y EL USO DE ALGORITMOS: UN NUEVO PARADIGMA CON EVIDENTES VENTAJAS Y ÁREAS DE RIESGO......... III. LA DIMENSIÓN ÉTICA COMO EJE CLAVE DE LA IA Y DE UNA GOBERNANZA MEDIADA POR ALGORITMOS............. IV. LAS (INEVITABLES) IMPLICACIONES DE GÉNERO................ 1. La IA y el uso de algoritmos como oportunidad en materia de igualdad de género...................................................................
85 86 89 91 93
Índice
2. El protagonismo de las mujeres en el campo de la inteligencia artificial. Eventuales consecuencias en el trabajo femenino....... 3. Sesgos de género que quiebran la igualdad y generan discriminación...................................................................................... V. LA TRANSPARENCIA COMO PROBLEMA DE FONDO.......... VI. A MODO DE CONCLUSIÓN......................................................
13 94 96 102 105
Bloque II TRANSPARENCIA Y EXPLICABILIDAD EN EL USO DE LA INTELIGENCIA ARTIFICIAL POR EL SECTOR PÚBLICO Denegación vs. Derecho de acceso al código fuente en los sistemas algorítmicos. Una perspectiva jurídico-administrativa...........................
111
Gabriele Vestri
I. INTRODUCCIÓN........................................................................ II. EL CÓDIGO FUENTE COMO ELEMENTO DEL MODELO FUNCIONAL................................................................................ III. EL ACCESO AL CÓDIGO FUENTE ANTE LA LEY 19/2013, DE 9 DE DICIEMBRE (LTAIBG)........................................................ IV. EL SESGO ALGORÍTMICO COMO BASE DE PARTIDA............ V. A MODO DE CONCLUSIÓN......................................................
Acceso al código fuente y a los algoritmos de las Administraciones inteligentes. Lecciones a partir de experiencias comparadas.................
111 113 119 126 131
135
María Estrella Gutiérrez David
I. INTRODUCCIÓN........................................................................ II. LA DISCUTIDA NATURALEZA JURÍDICA DEL CÓDIGO FUENTE Y DE LOS ALGORITMOS PÚBLICOS. SU CALIFICACIÓN COMO “INFORMACIÓN PÚBLICA”............................... III. DETECCIÓN Y ESCRUTINIO PÚBLICO DE PATOLOGÍAS DE LA AUTOMATIZACIÓN Y ALGORITMIZACIÓN DE LA ACTIVIDAD ADMINISTRATIVA. EL INTERÉS PÚBLICO EN EL ACCESO........................................................................................ IV. EL PROBLEMA DE LOS ERRORES EN EL DISEÑO DE LOS ALGORITMOS DEL MIUR Y DE OFQUAL................................ V. EN PARTICULAR, IMPORTANCIA DE LA VALIDACIÓN DE LOS MODELOS ALGORÍTMICOS Y EL PROBLEMA DE LA AMPLIFICACIÓN DEL SESGO. DE NUEVO, OFQUAL.............. VI. SOBRE EL “VALOR IUSFUNDAMENTAL” DEL DERECHO A SABER QUÉ TRATAMIENTOS ALGORÍTMICOS APLICA LA ADMINISTRACIÓN. LECCIONES FINALES DE PARCOURSUP................................................................................................
135 137
146 149 159
163
14
Índice
Algoritmo y transparencia de la Administración pública en el ordenamiento jurídico italiano. Algunas reflexiones críticas a partir del caso “Buona Scuola”.......................................................................................
169
Salvatore Palumbo
I. EL CASO “BUONA SCUOLA”...................................................... II. USO DE SOFTWARE EN LA ADMINISTRACIÓN PÚBLICA Y PROTECCIÓN DE LA PROPIEDAD INTELECTUAL.................. III. ACCESO A LA INFORMACIÓN PÚBLICA Y LENGUAJE DE PROGRAMACIÓN....................................................................... IV. LA TRANSPARENCIA COMO PRINCIPIO FUNDAMENTAL DE LA ACCIÓN ADMINISTRATIVA........................................... V. ACCESO A LA INFORMACIÓN DE LA ADMINISTRACIÓN PÚBLICA Y PROCEDIMIENTO ALGORÍTMICO: DESDE LA LEY Nº241 DE 1990 HASTA EL DECRETO LEGISLATIVO Nº97 DE 2016............................................................................... VI. CONCLUSIONES PROVISIONALES...........................................
169 172 178 181
188 195
Bloque III TRANSPARENCIA Y EXPLICABILIDAD EN LA EMPRESA, LA CONTRATACIÓN Y PRESTACIÓN DE SERVICIOS DE INTERNET Y EN EL ÁMBITO LABORAL Explicabilidad e inteligencia artificial responsable. Recomendaciones “aterrizadas” al día a día de las empresas..............................................
199
Juan Manuel Belloto Gómez
I. A MODO DE INTRODUCCIÓN................................................. II. EXPLICABILIDAD E INTELIGENCIA ARTIFICIAL RESPONSABLE........................................................................................... 1. El porqué de la necesidad de una IA responsable, ética y normativa...................................................................................... 2. La explicabilidad. Contexto y su relación con la IA responsable............................................................................................ 3. Iniciativas que ejemplifican la necesidad de una IA responsable............................................................................................ 4. El necesario papel de entidades independientes como OdiseIA. 5. La necesidad de aterrizar los conceptos de la IA responsable.... 6. Un ejemplo de aterrizaje. La iniciativa GuIA de OdiseIA.......... 7. La explicabilidad es solo uno de los principios éticos necesarios en la IA.............................................................................. III. EXPLICABILIDAD. RECOMENDACIONES ATERRIZADAS AL DÍA A DÍA DE LAS EMPRESAS................................................... 1. Recomendaciones de Google, Microsoft, IBM y Telefónica......
199 200 200 201 202 204 205 206 209 211 212
Índice
1.1. Visión sectorial.............................................................. 1.2. Explicar el modelo y también los datos que maneja....... 1.3. Explicar lo global y lo particular.................................... 1.4. Adaptar la explicación al interlocutor............................ 1.5. En todo el ciclo de vida de la solución inteligente........... 1.6. Menos puede ser más..................................................... 1.7. Caja negra vs caja blanca............................................... 1.8. Explicaciones claras y prudentes.................................... 1.9. Usando causalidad, minimizando correlaciones............. 1.10. La importancia del modelo de gobierno......................... 2. Recursos, tecnologías y modelos de Gobierno para gestionarla.............................................................................................. 3. Relación de la explicabilidad con otros principios para una IA responsable.............................................................................. IV. EPÍLOGO......................................................................................
La moderna configuración de la transparencia en la prestación de servicios y en la contratación en Internet....................................................
15 212 213 213 214 215 216 216 217 218 218 219 221 223
225
Javier Plaza Penadés
I. LA TRANSPARENCIA COMO VALOR Y COMO PRINCIPIO GENERAL..................................................................................... II. PRINCIPIO DE TRANSPARENCIA Y PROTECCIÓN DE DATOS............................................................................................... III. “LOS DERECHOS FUNDAMENTALES DE LA PERSONA PREVALECEN SOBRE LA TECNOLOGÍA”....................................... IV. LA TRANSPARENCIA EN INTERNET....................................... 1. Transparencia en la contratación con condiciones generales..... 2. Transparencia en los servicios de intermediación en línea......... 3. Protección frente a los patrones oscuros “dark patterns”......... V. CONCLUSIONES.........................................................................
Transparencia algorítmica en el ámbito laboral.....................................
225 226 228 229 231 242 243 247 249
Adrián Todolí Signes
I. EL USO DE LOS ALGORITMOS EN EL TRABAJO.................... II. EL DEBER DE TRASPARENCIA ALGORÍTMICA EN EL ÁMBITO LABORAL............................................................................... 1. Derecho de información de los representantes de los trabajadores sobre los algoritmos: el nuevo art. 64.4 ET..................... 2. Concepto de algoritmo............................................................. III. COMPARATIVA ENTRE LOS DERECHOS DE INFORMACIÓN DE ESTATUTO Y LA REGULACIÓN EUROPEA.............. IV. CONTENIDO DE LA INFORMACIÓN A ENTREGAR..............
249 253 253 256 257 259
16 V. DERECHOS DE INFORMACIÓN YA EXISTENTES QUE AFECTAN A LOS ALGORITMOS................................................ VI. CONCLUSIONES: TRASCENDENCIA DEL NUEVO DERECHO DE INFORMACIÓN...........................................................
Índice
263 264
Presentación Ciertamente es un orgullo haber liderado y coordinado la mejor monografía en español sobre la transparencia y la explicabilidad de los sistemas de inteligencia artificial (IA), un tema esencial para la confiabilidad y garantías de la tecnología disruptiva por excelencia en este siglo XXI que es el más invocado en todo documento o declaración sobre IA y que está en primera línea de las políticas de ética y regulación. Ya en 2018 con Andrés Boix tuvimos ocasión de lanzar el primer congreso en España sobre transparencia algorítmica1 y la primera monografía sobre regulación de sistemas de IA2. Y es un placer académico formar parte de un equipo líder en España en la investigación jurídica de la IA, precisamente en la Facultad de Derecho de la Universidad de Valencia, la primera en España en el famoso ránking de Shanghai en 2022. También cabe señalar que los coordinadores de esta obra y casi la mitad de sus autores, formamos parte de OdiseIA (Observatorio del Impacto Ético y Social de la Inteligencia Artificial), la asociación más importante en la materia en España y en la que Lorenzo Cotino coordina las áreas jurídicas y, como se expone, Juan Manuel Belloto dirige la emblemática y pionera iniciativa GuIA, que tanto tiene que ver con la transparencia algorítmica. Se cuenta en esta ocasión con un panel de lujo. Nueve autores, siete de ellos catedráticos o profesores de la universidad española, ocho doctores. La perspectiva jurídica es la que prima, no en vano, siete de los autores son expertos en Derecho constitucional, administrativo, laboral o civil. En todo caso, se cuenta con la especial aportación de dos expertos de otras disciplinas (Alfred Peris Manguillot, Catedrático de Matemàtica Pura i Aplicada y Juan Manuel Belloto Gómez,
1
2
Transparencia digital, algorítmica y big data. V Congreso Internacional del avance del Gobierno Abierto. III Congreso de Buen gobierno y transparencia de la Comunitat Valenciana, http://www.derechotics.com/congresos/2018-transparencia-big-data BOIX PALOP, Andrés y COTINO HUESO, Lorenzo (coords.), Monográfico Derecho Público, derechos y transparencia ante el uso de algoritmos, inteligencia artificial y big data RGDA Iustel, nº 50, febrero 2019. Acceso en https://www. iustel.com/v2/revistas/detalle_revista.asp?id=1
18
Lorenzo Cotino Hueso y Jorge Castellanos Claramunt
Director de la iniciativa GuIA, pionera en España). Ello enriquece sin duda este libro. La obra se ha distribuido en tres bloques respecto de la transparencia y explicabilidad de la inteligencia artificial. Los elementos conceptuales, generales y de género (I) las garantías y particularidades de la transparencia y explicabilidad en el uso de la inteligencia artificial por el sector público (II) y, en el ámbito privado, el impulso de la transparencia y la explicabilidad sociedad civil y su proyección en la empresa, en la contratación y prestación de servicios de internet y en el ámbito laboral. Así, Lorenzo Cotino, uno de los coordinadores y de quienes suscriben estas palabras, inicia la obra con un estudio en el que se pretende asentar el concepto de la transparencia y explicabilidad de la inteligencia artificial. Para ello se expone cómo es el principio unánimemente reconocido en los documentos de la llamada ética de la AI, así como se describen las (insuficientes) las obligaciones normativas que imponen la misma en España. Asímismo, se reflexiona y se delimita el contenido de la transparencia en razón de sus finalidades. Para ello es esencial cuestionarse el para qué, para quién y cuánta transparencia algorítmica. Sobre estas premisas, el grueso de este estudio que inicia el libro es adentrarse en los conceptos de transparencia y explicabilidad y, con ellos, toda la y “compañía” de nociones que orbitan e integran estas nociones y amplían su campo denotativo. Así, se exponen —con apoyo de los documentos de referencia— los conceptos de comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad y otros más de interés a la materia. Alfred Peris Manguillot, Catedrático de Matemàtica Pura i Aplicada, se cuestiona si podemos hacer los algoritmos transparentes y trazables en su proceso?, para ello explica el concepto de algoritmo, las redes neuronales y aprendizaje profundo y sus capas más ocultas y el enorme reto matemático que supone lograr la comprensión del funcionamiento de estos sistemas. Este primer bloque general lo cierra Raquel Valle Escolano cuando aborda los riesgos, pero también oportunidades que implica la IA para la igualdad, las respuestas frente a los mismos desde el punto de vista ético y jurídico. Sobre estas bases
Presentación
19
se señala a la transparencia como problema de fondo en el que se pueden lograr las más importantes respuestas. El segundo bloque está centrado en las particularidades del sector público y se tiene la suerte de contar con quienes más y mejor han trabajado este tema en España. El mismo lo inicia Gabriele Vestri, quien ya ha publicado excelentes estudios sobre la transparencia algorítmica y la contratación pública de algoritmos, en esta obra se centra en el derecho de acceso a la información pública que suponen los sistemas de IA e incluso el acceso a su código fuente. La polémica sentencia de 2021 que ratifica la previa denegación del CTBG estatal al código fuente del sistema BOSCO es critizada, además de analizado todo el marco jurídico aplicable con especial atención del fenómeno de los sesgos de los sistemas IA. Se propone incluso ir más allá de facilitar el acceso al código, sino dar acceso al sistema funcional mismo. María Estrella Gutiérrez trabaja desde hace años muy exhaustivamente el derecho de acceso a la información pública en clave nacional y comparada, así como es autora del trabajo más prolijo sobre transparencia algorítmica, con un cononcimiento técnico que no es nada habitual entre juristas3. Pues bien, en esta ocasión ofrece el trabajo de Derecho comparado más profundo hasta la fecha y del que todos debemos aprender. El mismo permite al lector adentrarse en la naturaleza del código fuente y de los algoritmos, las posibilidades de que la ciudadanía detecte y control las posibles patologías del uso público de sistemas IA. Descubir posibles sesgos es un elemento de gran relevancia a tener en cuenta para considerar, incluso, la naturaleza de derecho fundamental del acceso a esta información administrativa. Y en la misma línea del excelente trabajo de Gutiérrez cabe calificar la aportación del doctor italiano Salvatore Palumbo, a quien he tenido el gusto de codirigir su tesis doctoral sobre el uso público de IA. Su estudio se adentra en la transparencia del algoritmo público italiano a partir de un interesante supuesto de aquel país.
3
M.E. Gutiérrez David, “Administraciones inteligentes y acceso al código fuente y los algoritmos públicos. Conjurando riesgos de cajas negras decisionales”, en Derecom, nº 31, págs. 19-105, http://www.derecom.com/derecom/
20
Lorenzo Cotino Hueso y Jorge Castellanos Claramunt
El tercer y último bloque del libro se dedica a la Transparencia y explicabilidad en el contexto empresarial, la contratación y prestación de servicios de internet y en el ámbito laboral. Juan Manuel Belloto es el responsable del proyecto GuIA, la mayor iniciativa desde la sociedad civil en España sobre el uso responsable de los sistemas de IA a través de la mencionada asociación OdiseIA. Desde 2021, Lorenzo Cotino ha tenido la suerte de coordinar la parte jurídica de la primera entrega de este ambicioso proyecto en 2022. En su estudio se expone esta iniciativa, el necesario papel de entidades independientes como OdiseIA y cómo “aterrizar” los principios éticos de la IA de modo concreto y tecnológicamente en el seno de las empresas. A la vista de su directo conocimiento en el proyecto GuIA, se detallan las recomendaciones y acciones de las grandes tecnológicas (Google, Microsoft, IBM y Telefónica) para hacer efectivos estos principios. Javier Plaza en su estudio hace un recorrido la sobre moderna configuración de la transparencia en la prestación de servicios y en la contratación en Internet, centrándose en la transparencia en la contratación con condiciones generales y en los servicios de intermediación en línea, así como la Protección frente a los patrones oscuros “dark patterns”. Se subraya la importancia del Reglamento 2019/1150 de la Unión Europea, que ciertamente es bastante desconocido para la mayoría de los juristas. Y cierra esta obra Adrián Todolí Signes, que es la persona de referencia académica en España sobre los sistemas de IA y algoritmos en el ámbito laboral. De hecho, ha participado en la comisión de expertos que en mayo de 2022 ha realizado la Guía práctica y herramienta sobre la obligación empresarial de información sobre el uso de algoritmos en el ámbito laboral4. Así las cosas, su contribución revisa la trascendencia creciente del uso de los algoritmos en el trabajo, el deber de trasparencia algorítmica en el ámbito laboral y en particular el derecho de información de los representantes de los trabajadores sobre los algoritmos en razón del nuevo art. 64.4 Estatuto de los Trabajadores (en la llamada ley rider). Todolí se detiene en elementos relevantes como concepto de algoritmo a los efectos de esta normativa, así como se efectúa una comparativa con la regulación 4
Ministerio de Trabajo y Economía Social, Información algorítmica en el ámbito laboral, mayo 2022, https://www.lamoncloa.gob.es/serviciosdeprensa/notasprensa/trabajo14/Documents/2022/100622-Guia_algoritmos.pdf