INTELIGENCIA ARTIFICIAL Y PREVENCIÓN DE RIESGOS LABORALES: OBLIGACIONES Y RESPONSABILIDADES
COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH
María José Añón Roig
Catedrática de Filosofía del Derecho de la Universidad de Valencia
Ana Cañizares Laso
Catedrática de Derecho Civil de la Universidad de Málaga
Jorge A. Cerdio Herrán
Catedrático de Teoría y Filosofía de Derecho.
Instituto Tecnológico Autónomo de México
José Ramón Cossío Díaz
Ministro en retiro de la Suprema
Corte de Justicia de la Nación y miembro de El Colegio Nacional
María Luisa Cuerda Arnau
Catedrática de Derecho Penal de la Universidad Jaume I de Castellón
Carmen Domínguez Hidalgo
Catedrática de Derecho Civil de la Pontificia Universidad Católica de Chile
Eduardo Ferrer Mac-Gregor Poisot
Juez de la Corte Interamericana de Derechos Humanos
Investigador del Instituto de Investigaciones Jurídicas de la UNAM
Owen Fiss
Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)
José Antonio García-Cruces González
Catedrático de Derecho Mercantil de la UNED
José Luis González Cussac
Catedrático de Derecho Penal de la Universidad de Valencia
Luis López Guerra
Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid Ángel M. López y López
Catedrático de Derecho Civil de la Universidad de Sevilla
Marta Lorente Sariñena
Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid
Javier de Lucas Martín
Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia
Víctor Moreno Catena
Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid
Francisco Muñoz Conde
Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla
Angelika Nussberger
Catedrática de Derecho Constitucional e Internacional en la Universidad de Colonia (Alemania)
Miembro de la Comisión de Venecia
Héctor Olasolo Alonso
Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y
Presidente del Instituto Ibero-Americano de La Haya (Holanda)
Luciano Parejo Alfonso
Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid
Consuelo Ramón Chornet
Catedrática de Derecho Internacional
Público y Relaciones Internacionales de la Universidad de Valencia
Tomás Sala Franco
Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia
Ignacio Sancho Gargallo
Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España
Elisa Speckmann Guerra
Directora del Instituto de Investigaciones
Históricas de la UNAM
Ruth Zimmerling
Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)
Fueron miembros de este Comité:
Emilio Beltrán Sánchez, Rosario Valpuesta Fernández y Tomás S. Vives Antón
Procedimiento de selección de originales, ver página web:
www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales
INTELIGENCIA ARTIFICIAL Y PREVENCIÓN DE RIESGOS LABORALES: OBLIGACIONES
Y RESPONSABILIDADES
Directoras:
Mª ÁNGELES EGUSQUIZA BALMASEDA
BEATRIZ RODRÍGUEZ SANZ DE GALDEANO
Autores:
Mª ÁNGELES EGUSQUIZA BALMASEDA
JOSÉ LUIS GOÑI SEIN
MARÍA JORQUI AZOFRA
RAQUEL LUQUIN BERGARECHE
JULEN LLORENS ESPADA
MIRENTXU MARÍN MALO
LUIS PÉREZ CAPITÁN
BEATRIZ RODRÍGUEZ SANZ DE GALDEANO
tirant lo blanch
Valencia, 2023
Copyright ® 2023
Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor.
En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com.
© Sus autores
© TIRANT LO BLANCH
EDITA: TIRANT LO BLANCH
C/ Artes Gráficas, 14 - 46010 - Valencia
TELFS.: 96/361 00 48 - 50
FAX: 96/369 41 51
Email:tlb@tirant.com
www.tirant.com
Librería virtual: www.tirant.es
DEPÓSITO LEGAL: V-1547-2023
ISBN: 978-84-1169-045-4
MAQUETA: Disset Ediciones
Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro procedimiento de quejas.
Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf
Índice PRESENTACIÓN .................................................................................... 17 PRIMERA PARTE REGLAMENTO DE INTELIGENCIA ARTIFICIAL Y NORMATIVA DE SEGURIDAD DEL PRODUCTO: OBLIGACIONES Y RESPONSABILIDADES PARA EL FABRICANTE Y EMPRESARIO Capítulo primero: LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL EN EL ÁMBITO LABORAL Y EL MARCO REGULADOR EUROPEO DE SEGURIDAD DEL PRODUCTO ........................................................................................... 23 BEATRIZ RODRÍGUEZ SANZ DE GALDEANO I. LA INCORPORACIÓN DE SISTEMAS DE IA EN LA EMPRESA Y SU IMPACTO EN MATERIA DE PREVENCIÓN DE RIESGOS LABORALES .......................................................................................... 24 1. Los avances tecnológicos determinantes de la industria 4.0 ....... 24 2. Aproximación a las principales aportaciones de la industria 4.0 en la empresa y sus implicaciones en materia de PRL ...... 25 2.1.-Robótica avanzada ........................................................ 25 2.2. Sistemas de Gestión ....................................................... 27 2.3.- EPIS inteligentes ........................................................... 27 3. Algunas particularidades de estos nuevos equipos y los retos para el legislador ................................................................... 28 II. INSUFICIENCIA DEL MARCO NORMATIVO EXISTENTE Y PRIMEROS AVANCES EN EL SENO DE LA UE .................................... 31 1. Primeros pasos: el enfoque europeo en materia de IA ................ 31 2. Creación de directrices éticas en materia de IA .......................... 32 3. Revisión de la normativa existente y formulación de propuestas legislativas ....................................................................... 33 III. LA PROPUESTA DE REGLAMENTO IA: UNA APUESTA POR UNA APROXIMACIÓN HORIZONTAL Y COHERENTE CON EL RESTO DE BLOQUES NORMATIVOS ............................................ 35 1. Amplitud de su ámbito de aplicación y apuesta por un planteamiento basado en niveles de riesgo ........................................ 36
8 Índice 2. Enfoque horizontal y sistema entrelazado con el resto de normativa ................................................................................... 38 3. Fijación de requisitos generales y remisión a las especificaciones técnicas ........................................................................... 39 IV. VUELTA A LO CONCRETO: LOS REQUISITOS DE SEGURIDAD DE LOS NUEVOS SISTEMAS DE IA UTILIZADOS EN EL ÁMBITO LABORAL ................................................................................... 40 1. Robots-máquinas: normativa de máquinas y legislación de IA .. 40 1.1. Concepto de máquina y sistemas de IA .......................... 42 1.2. Procedimiento de evaluación y certificación de los sistemas de IA incluidos en el campo de aplicación de la normativa de máquinas 44 1.3. Requisitos esenciales de seguridad .................................. 46 1.4. Las normas técnicas y los organismos de normalización para las máquinas con sistemas de IA ........................ 48 2. Normativa de seguridad para la fabricación de EPIs inteligentes ......................................................................................... 49 3. Exoesqueletos: ni máquinas ni productos sanitarios .................. 52 4. Vehículos guiados en el ámbito de la empresa ........................... 53 5. Drones ...................................................................................... 53 6. Software de gestión independiente ............................................ 54 V. LAS OBLIGACIONES DEL EMPRESARIO RESPECTO DE PRODUCTOS QUE INCORPORAN SISTEMAS DE IA........................... 56 1. Integración en el ámbito laboral de productos seguros: obligación de evaluación de riesgos, de formación e información.... 57 2. La alteración y adaptación del equipo: el empresario como posible fabricante .................................................................. 58 3. El empresario como usuario de un sistema de IA ...................... 61 4. Las obligaciones del empresario como posible responsable de tratamiento de datos ............................................................. 62 VI. ALGUNOS DESAFÍOS PENDIENTES .............................................. 67 VII. BIBLIOGRAFÍA................................................................................ 69 Capítulo segundo: EL REGLAMENTO UE DE INTELIGENCIA ARTIFICIAL Y SU INTERRELACIÓN CON LA NORMATIVA DE SEGURIDAD Y SALUD EN EL TRABAJO ....................................................................................................... 73 JOSÉ LUIS GOÑI SEIN I. INTRODUCCIÓN: PROCESO DE REGULACIÓN DE LA LEY DE IA ....................................................................................................... 73
9 Índice II. COHERENCIA CON EL ACERVO SOCIAL EUROPEO: DIRECTIVA DE SEGURIDAD Y SALUD LABORAL....................................... 77 III. DISEÑO EUROPEO DE INTELIGENCIA ARTIFICIAL: .................. 82 1. Definición de IA ........................................................................ 82 2. Pirámide de riesgos ................................................................... 83 3. Requisitos obligatorios para los sistemas de IA de “Alto Riesgo” ....................................................................................... 90 IV. SISTEMAS DE IA EN EL TRABAJO Y SU IMPACTO EN LA SEGURIDAD Y SALUD LABORAL: ........................................................... 93 1. Automatización por IA: dispositivos robóticos .......................... 95 2. Software de gestión algorítmica ................................................ 98 3.Trabajo en plataformas digitales ................................................ 101 V. LA IA DE ALTO RIESGO Y GESTIÓN DE RIESGOS DE SEGURIDAD Y SALUD LABORAL ................................................................ 103 1. Identificación de riesgos asociados a IA..................................... 106 2. Evaluación de riesgos ................................................................ 106 3. Medidas de gestión de riesgos ................................................... 107 VI. TRANSPARENCIA ALGORÍTIMICA Y GOBERNANZA PARTICIPATIVA .............................................................................................. 110 1. La información como contenido previo de fiabilidad del sistema de IA ............................................................................... 110 2. Sistemas de IA y participación sindical ...................................... 112 3. Derecho de los trabajadores a una explicación de las decisiones automatizadas y a impugnarlas. ............................................ 114 VII. CONCLUSIONES............................................................................. 116 VIII. BIBLIOGRAFÍA .............................................................................. 119 Capítulo tercero: RESPONSABILIDAD CIVIL EN MATERIA DE INTELIGENCIA ARTIFICIAL Y SU INCIDENCIA EN EL ÁMBITO DE REPARACIÓN DEL DAÑO DERIVADO DE ACCIDENTE DE TRABAJO Y ENFERMEDAD PROFESIONAL ESPAÑOL ................................................................................................ 123 JULEN LLORENS ESPADA I. DAÑOS POR SISTEMAS DE IA EN EL ÁMBITO LABORAL ............ 123 1. Robot con integración de sistemas de IA .................................. 127 2. Sistemas de IA integrados en aplicaciones dirigida a la gestión de la PRL .............................................................................. 129 II. RETOS ................................................................................................ 132 1. Imputación y delimitación de la responsabilidad ....................... 132
10 Índice 2. ConJugar diversos bloques normativos ...................................... 138 2.1. Responsabilidad civil adicional en materia de seguridad y salud en el trabajo ................................................... 139 2.2. Responsabilidad del fabricante ....................................... 143 a) Seguridad del producto .......................................... 143 b) Prevención de Riesgos Laborales 145 2.3. Compatibilidad con la responsabilidad civil en protección de datos ............................................................. 145 2.4. Compatibilidad con el sistema de Seguridad Social ........ 147 2.5. Responsabilidad penal ................................................... 148 III. LAS CLAVES DEL NUEVO SISTEMA ............................................... 149 1. Exhibición de pruebas ............................................................... 149 2. Presunción de relación de causalidad en caso de culpa .............. 151 2.1. Sistemas de IA de no “alto riesgo” ................................. 151 2.2. Sistemas de IA de “alto riesgo” ...................................... 154 a) Diligencia digital de los proveedores ...................... 155 b) Diligencia digital de las empresas que actúen como usuarias del sistema de IA ..................... 156 Bibliografía .............................................................................................. 157 SEGUNDA PARTE LA INCORPORACIÓN DE SISTEMAS DE INTELIGENCIA ARTIFICIAL EN LA EMPRESA Y SU IMPACTO EN MATERIA DE PREVENCIÓN DE RIESGOS LABORALES Capítulo Cuarto: APORTACIONES DE LA INTELIGENCIA ARTIFICIAL EN MATERIA PREVENTIVA Y NUEVOS RIESGOS EMERGENTES .................................. 161 MIRENTXU MARÍN MALO I. INTRODUCCIÓN ............................................................................... 161 II. LOS SISTEMAS DE IA COMO HERRAMIENTA PARA LA MEJORA DE LAS CONDICIONES DE SEGURIDAD Y SALUD EN EL TRABAJO .......................................................................................... 166 1. El uso de sistemas de IA para la gestión de la prevención en la empresa ................................................................................ 167 1.1. La adopción de medidas preventivas basadas en sistemas de IA .................................................................. 167
11 Índice 1.2. La IA como medio para facilitar el cumplimiento de ciertas obligaciones específicas del empresario en materia preventiva. .................................................... 168 1.3. Los sistemas de IA como medio para dar cumplimiento a obligaciones empresariales que exigen la presencia de personal especializado en el centro de trabajo 169 2. La IA como garantía de una formación en materia preventiva suficiente y adecuada............................................................. 171 3. Los sistemas de IA como herramienta para la mejora de las condiciones de seguridad y salud del centro de trabajo ......... 173 3.1. La mejora de la ergonomía ............................................. 174 3.2. Las posibles mejoras en condiciones ambientales del centro de trabajo........................................................ 175 3.3. La IA como herramienta para aumentar los niveles de seguridad y salud generales de los trabajadores .......... 177 III. RIESGOS LABORALES EMERGENTES ASOCIADOS A LA INTELIGENCIA ARTIFICIAL .................................................................... 177 1. Los riesgos psicosociales vinculados a la implantación de sistemas de IA en la prestación de servicios a través de plataformas digitales ......................................................................... 178 1.1. Riesgos derivados del uso de la digitalización del medio laboral como medio de control .................................. 179 1.2. La IA como medio para el seguimiento y valoración del trabajo prestado......................................................... 181 1.2.1. La evaluación por parte de la empresa ............. 181 1.2.2. La evaluación por parte del cliente................... 184 2. La robotización “inteligente” como origen de nuevos (y viejos) riesgos laborales .................................................................... 185 2.1 La deshumanización del trabajo ...................................... 190 2.2. Los riesgos mecánicos derivados de la robotización del medio laboral............................................................. 192 IV. BIBLIOGRAFÍA ................................................................................. 193 Capítulo quinto: INTELIGENCIA ARTIFICIAL Y SALUD LABORAL ............................. 197 JULEN LLORENS ESPADA I. INTRODUCCIÓN: INTELIGENCIA ARTIFICIAL DESDE EL ÁMBITO DE LA SALUD ............................................................................ 197 II. APLICACIÓN DE LA IA Y VIGILANCIA DE LA SALUD .................. 201
12 Índice 1. Diagnósticos de salud a través de modelos predictivos y vigilancia de la salud en la empresa ............................................ 201 2. Diagnósticos predictivos y reconocimientos médicos obligatorios para cubrir puestos de trabajo con riesgo de enfermedades profesionales ................................................................... 203 III. MONITORIZACIÓN DE LA SALUD DE LOS TRABAJADORES A TRAVÉS DE SISTEMAS DE IA Y GESTIÓN DE PRL ....................... 209 1. Wereables e IoT con fines de prevención de riesgos laborales .... 211 2. Equipos de Protección Individual inteligentes ............................ 215 3. Plataformas de gestión de la prevención de riesgos laborales ..... 220 4. Riesgos de la gestión de la PRL a través de IA ........................... 224 IV. SISTEMAS DE IA Y PROTECCIÓN DE DATOS PERSONALES EN EL ÁMBITO DE LA SALUD LABORAL ........................................... 226 1. Vigilancia de la salud mediante IA y protección de datos personales .................................................................................. 227 2. Garantías del marco legal de prevención de riesgos laborales ante la vigilancia de la salud a través de sistemas de IA ......... 230 2.1. Voluntariedad y derecho de información ........................ 231 2.2. Finalidad y proporcionalidad ......................................... 233 2.3. Confidencialidad y personal habilitado .......................... 234 3. Garantías del marco legal de protección de datos en el tratamiento de datos de salud ....................................................... 238 3.1. Legitimación en el tratamiento de datos personales de salud con fines de prevención de riesgos laborales ...... 238 3.2. Tratamiento automatizado de datos de salud: bases de legitimación ............................................................... 240 3.3. Tratamiento semi-automatizado de datos de salud: bases de legitimación ..................................................... 244 4. Principios generales de protección de datos ............................... 245 V. BIBLIOGRAFÍA .................................................................................. 248 Capitulo sexto: UTILIZACIÓN DE NUEVAS TECNOLOGIAS CON FINES DE GESTION PREVENTIVA. POSIBILIDADES A LA LUZ DE LA NORMATIVA EN MATERIA DE SEGURIDAD Y SALUD LABORAL ...................................... 253 LUIS PÉREZ CAPITÁN I. INTRODUCCIÓN ............................................................................... 254 II. LAS NUEVAS TECNOLOGÍAS EN EL ÁMBITO FORMATIVO DE PREVENCIÓN DE RIESGOS LABORALES...................................... 256 1- Una breve reflexión previa. ....................................................... 256
4. La adecuación de los sistemas de control remoto para el cumplimiento de la obligación de vigilancia en los casos de concurrencia de actividades empresariales. .................................
4.1. La adecuación de los medios de control remoto para el cumplimiento de la obligación de vigilancia del empresario principal. .................................................
4.2. El encargado de coordinación y las posibilidades del cumplimiento de sus obligaciones de vigilancia a través de sistema de control remoto. ..............................
5. Los sistemas de control remoto y la obligación de vigilancia en el ámbito de las obras de construcción. ................................. 284
5.1. Las herramientas de control remoto y su conciliación con las obligaciones de vigilancia del coordinador en materia de seguridad y de salud durante la ejecución de la obra.
5.2. Algunas menciones específicas al deber de vigilancia: director de obra y director de ejecución de obra.........
6. Los Servicios de Prevención como sujetos obligados a efectuar una actividad de vigilancia. ...................................................
13 Índice 2 Las plataformas digitales: ¿instrumentos adecuados para la formación preventiva? ............................................................... 258
LA ADECUACIÓN DEL USO DEL SISTEMA DE VIGILANCIA A DISTANCIA COMO INSTRUMENTO DEL CUMPLIMIETNO DE LAS OBLIGACIONES DE VIGILANCIA ESTABLECIDAS EN LA REGULACIÓN PREVENTIVA. ......................................................... 268 1 Los sistemas de control remoto y la obligación general de vigilancia empresarial. ................................................................ 269 1.1. Una breve referencia a la obligación de vigilancia empresarial..................................................................... 269 1.2. Supuestos específicos de vigilancia: los medios de protección personal y otras situaciones. 271 2 La adecuación de los sistemas de control remoto para el cumplimiento de esta obligación general. ..................................... 272 3. La vigilancia ante las situaciones de riesgo agravado: los recursos preventivos. Examen de la adecuación de los sistemas de control remoto al cumplimiento de esta obligación. ................ 274 3.1. Una introducción acerca
preventivo.
274
III.-
del recurso
............
presencia física
recurso preventivo. ......... 277
3.2. La adecuación de los sistemas de control remoto para suplir la
del
279
279
281
285
.................................................
289
290 IV. CONCLUSIONES .............................................................................. 291 V. BIBLIOGRAFÍA .................................................................................. 292
14 Índice TERCERA PARTE RESPONSABILIDAD CIVIL POR DAÑOS DERIVADOS DE LA INTELIGENCIA ARTIFICIAL Capítulo séptimo: MARCO NORMATIVO GENERAL Y PROPUESTAS DE REGULACIÓN EN LA RESPONSABILIDAD CIVIL .............................................................. 297 Mª ÁNGELES EGUSQUIZA BALMASEDA. I. CONSIDERACIONES PREVIAS. ......................................................... 297 II. COMPLEMENTARIEDAD NORMATIVA COMO AXIOMA EN LA REGULACIÓN FUTURA DE LA UE SOBRE RESPONSABILIDAD CIVIL POR IA. ................................................................................... 302 III. PROPUESTA DE DIRECTIVA SOBRE RESPONSABILIDAD CIVIL EN MATERIA DE IA. ........................................................................ 308 1. Planteamiento general. .............................................................. 308 2. Objeto y ámbito de aplicación................................................... 308 3. Contenido de la armonización en materia de responsabilidad civil extracontractual por IA.................................................. 313 3.1. Aspectos generales. ......................................................... 313 3.1.1. La exhibición de pruebas y presunción refutable de incumplimiento en los sistemas de IA de alto Riesgo......................................... 315 3.1.2. La presunción refutable de la relación de causalidad. ....................................................... 323 IV. A MODO DE CONCLUSIÓN. .......................................................... 327 V. BIBLIOGRAFÍA .................................................................................. 328 Capítulo octavo: EL CONCEPTO LEGAL DE PRODUCTO A LA LUZ DE LA NUEVA PROPUESTA DE DIRECTIVA SOBRE RESPONSABILIDAD POR LOS DAÑOS CAUSADOS POR PRODUCTOS DEFECTUOSOS................................. 331 MARÍA JORQUI AZOFRA I. INTRODUCCIÓN ............................................................................... 331 II. RAZONES QUE JUSTIFICAN LA REVISIÓN DEL ACTUAL CONCEPTO LEGAL DE PRODUCTO PARA SU ADAPTACIÓN A LA ERA DIGITAL ................................................................................... 339
III. EL REGLAMENTO RELATIVO A UN MERCADO ÚNICO DE SERVICIOS DIGITALES O LEY
(“DI-
15 Índice III. LA DEFINICIÓN DE PRODUCTO EN LA NUEVA PROPUESTA DE DIRECTIVA SOBRE RESPONSABILIDAD POR LOS DAÑOS CAUSADOS POR PRODUCTOS DEFECTUOSOS ........................... 360 IV. CONSIDERACIONES FINALES ........................................................ 374 V. BIBLIOGRAFÍA .................................................................................. 386 Capítulo noveno: RESPONSABILIDAD CIVIL POR EL SUMINISTRO DE CONTENIDOS Y SERVICIOS DIGITALES .......................................................................... 391 RAQUEL LUQUIN BERGARECHE I. INTRODUCCION. DIGITALIZACION Y SERVICIOS ....................... 391 II. RESPONSABILIDAD CIVIL POR EL SUMINISTRO DE SERVICIOS DIGITALES: ENCUADRE NORMATIVO. ........................................ 398 1. La “Directiva de servicios digitales” y su transposición mediante Real Decreto-Ley 7/2021, de 27 de abril. ................... 398 1.1. Ámbito normativo.......................................................... 400 1.2. Precisiones terminológicas.............................................. 401 1.3. Responsabilidad civil contractual derivada de la prestación de servicios digitales. ......................................... 403 1.3.1. La Directiva (UE) 2019/770 del Parlamento Europeo y del Consejo de 20 de mayo de 2019 relativa a determinados aspectos de los contratos de suministro de contenidos y servicios digitales (“Directiva de servicios digitales”). ........................................... 403 1.3.2. El Real Decreto-Ley 7/2021, de 27 de abril: modificaciones en la normativa española relativa al suministro de productos y servicios digitales a consumidores.................... 408
GITAL SERVICES ACT” O DSA). ..................................................... 428 1. Marco normativo para el proceso europeo de digitalización...... 428 2. Los servicios de intermediación en línea: intermediación, alojamiento de datos y plataformas en línea. ............................. 429 3. Nuevo régimen de responsabilidad de los prestadores de servicios digitales que actúan como intermediarios....................... 432 3.1. Ámbito de aplicación: la “conexión sustancial” del intermediario con la Unión Europea............................. 432 3.2. Precisiones terminológicas.............................................. 435
DE SERVICIOS DIGITALES
3.3. La exención de responsabilidad horizontal de los prestadores de servicios de la sociedad de la información: los “safe harbours” o puertos seguros. ..............
3.4. Régimen de responsabilidad de los intermediarios.......... 445
3.4.1. Exención de responsabilidad de los intermediarios de mera transmisión o alojamiento de datos (“caching” y “hosting”) y por investigaciones por iniciativa propia o voluntarias para detectar, identificar y retirar contenidos ilícitos o inhabilitar el acceso a los mismos . ................................................
3.4.2. Actuaciones contra contenidos ilícitos..............
3.4.3. Ordenes de entrega de información por las autoridades nacionales judiciales o administrativas. ..................................................
3.4.4. El indeterminado criterio de la “diligencia debida” de los prestadores de servicios intermediarios para crear un entorno en línea transparente y seguro. .................................
3.4.5. Notificación y acción frente a contenidos ilícitos. ...
4. Régimen de responsabilidad de las plataformas en línea............
5. Plataformas en línea de muy gran tamaño: obligaciones adicionales y régimen reforzado.
16 Índice
438
445
447
449
449
453
455
.................................................... 461 IV. BIBLIOGRAFÍA ................................................................................. 463
PRESENTACIÓN
La digitalización y el desarrollo de la inteligencia artificial (IA) han dado lugar a una nueva revolución industrial, con un impacto incuestionable en la organización del trabajo y en las formas de producción y que también abre importantes interrogantes sobre su viabilidad y límites. En el ámbito específico de la seguridad y salud en el trabajo, la IA va a permitir el desarrollo de nuevos productos, servicios, aplicaciones y formas de organización del trabajo, que pueden contribuir a la mejora de la seguridad y salud en el trabajo, pero que también pueden traer consigo nuevos riesgos. La seguridad y salud en el trabajo constituye, por tanto, un ejemplo paradigmático de las oportunidades, pero también de las amenazas que el desarrollo de la IA puede traer consigo y de los retos de adaptación normativa que plantea. En efecto, la incorporación de estos nuevos desarrollos tecnológicos puede aportar importantes mejoras para el desarrollo de un trabajo en condiciones de seguridad. Asimismo, el desarrollo de esta tecnología va a traer consigo cambios en los propios sistemas de gestión preventiva y de vigilancia de salud, que se podrán beneficiar de estos avances, pero que también deberán permanecer alerta a los posibles riesgos. Todo ello requiere una intervención normativa que adecue las exigencias de seguridad y las respectivas obligaciones de fabricantes y empresarios y que también aborde los problemas que puede plantear un fallo en estos equipos desde el punto de vista de la responsabilidad. Ante esta nueva revolución industrial la UE presentó ya en el año 2014 una Estrategia Digital, que pretendía situar a Europa como líder de la estrategia digital y artífice de un modelo ético de desarrollo. En su conocido como paquete digital compuesto por las comunicaciones de la Comisión “Configurar el futuro digital de Europea” “ Una estrategia Europea de Datos” y el “Libro Blanco sobre inteligencia artificial- Un enfoque europeo orientado a la excelencia y la confianza”, la UE reconoció la urgencia de afrontar los retos que plantea esta nueva revolución industrial con el fin, por un lado, de convertir a Europa en un referente en la materia y, por otro, de garantizar un marco jurídico y ético adecuado.
La Comisión ha dado respuesta a estas invitaciones con un paquete de propuestas legislativas de suma importancia para garantizar la
viabilidad de los sistemas de IA, la seguridad de los productos a los que se incorporan y un régimen equilibrado de responsabilidad1. Esta regulación se completa con la aprobación de los Reglamentos referidos a servicios y mercados digitales2. Estas iniciativas de la Comisión han estado marcadas por el deseo de asegurar un marco regulador protector de los derechos fundamentales y garante de la seguridad de los usuarios, que, a su vez, se coordine y complemente con el resto de normativa ya vigente en la materia. Con este objetivo, la Comisión parte de un enfoque basado en el riesgo de los sistemas e identifica los usos que han de estar prohibidos y aquellos otros que conllevan un alto riesgo y que, en consecuencia, han de someterse a unos requisitos adicionales. Este enfoque basado en el riesgo se traslada también al ámbito de la responsabilidad civil y, en consecuencia, se contemplan reglas especiales destinadas a facilitar la prueba de la culpa para determinados sistemas de IA considerados de alto riesgo. En este abordaje normativo la UE parte de un planteamiento basado en la gobernanza, que pretende completar el marco normativo ya existente en materia de seguridad del producto, responsabilidad y protección de datos. Con todo, en este planteamiento se echa en falta una consideración singular de los aspectos relacionados con la seguridad y salud en el trabajo y, en general, con la normativa en materia laboral. Partiendo de este incipiente marco legislativo, el propósito de la monografía es analizar las implicaciones jurídicas que la integración en la empresa de la Inteligencia Artificial plantea en el ámbito de la seguridad y salud en el trabajo.
1 Propuesta de Reglamento por el que se establecen normas armonizadas en materia de IA COM (2021) 206 final, de 21 de abril. Propuesta de Reglamento del Parlamento Europeo y del Consejo relativo a máquinas y sus partes y accesorios COM (2021) 202 final. Propuesta de Directiva sobre responsabilidad en materia de IA de 28 de septiembre de 2022 (COM(2022) 496 final. Propuesta de modificación de la Directiva 85/374/CE, de 25 de julio, se presentó el pasado 28 de septiembre de 2022, (COM (2022) 495
2 Propuesta de Reglamento del Parlamento Europeo y del Consejo relativo a la responsabilidad civil por el funcionamiento de los sistemas de Inteligencia Artificial, de 20 de octubre del 2020. Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo de 19 de octubre de 2022 relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE (Reglamento de Servicios Digitales).
18
La monografía se estructura en torno a tres grandes ejes. En primer lugar, se trata de realizar una aproximación a las obligaciones de los fabricantes de sistemas de IA destinados a utilizarse en el lugar de trabajo y a sus posibles responsabilidades. Para ello, se realiza una primera aproximación a los requisitos de seguridad que el fabricante de sistemas de IA ha de observar. En un segundo capítulo se profundiza en la propuesta de Ley de IA, con el fin de definir las claves de esta nueva normativa, que parte de un enfoque basado en el riesgo. Por último, se presenta el régimen de responsabilidades del fabricante de equipos que incorporan sistemas de IA destinados a ser utilizados en el trabajo.
La segunda parte de la monografía, desciende en el análisis concreto de las oportunidades y riesgos que los sistemas de IA presentan en materia de seguridad y salud en el trabajo. Se presenta, en primer lugar, una visión panorámica de los nuevos riegos que pueden entrañar para la seguridad y salud de los trabajadores. En un segundo capítulo se analizan las posibilidades que la IA abre para la vigilancia de la salud y su viabilidad conforme al marco normativo vigente. Por último, se presentan las oportunidades que la utilización de estos nuevos avances puede presentar para la gestión preventiva y su encaje en el actual modelo de organización preventiva diseñado por la Ley de Prevención de Riesgos Laborales.
Se cierra la monografía con el estudio del marco normativo propuesto en materia de responsabilidad civil. La UE ha llevado a cabo una intensa labor con el fin de esbozar un régimen normativo común en una materia de suma relevancia para el desarrollo de la IA. Tras unas propuestas iniciales que finalmente se han visto desechadas, al UE ha apostado por una propuesta de Directiva en materia de responsabilidad derivada de IA, que pretende facilitar la carga de la prueba y coordinarse con las normas generales ya existentes en la materia. Asimismo, la UE ha planteado también una reforma del régimen vigente en materia de responsabilidad por productos defectuosos, con el fin de acomodarlo a los nuevos retos que plantean los sistemas de IA no corpóreos. Por último, la UE ha abordado ya el marco de obligaciones y responsabilidades de los prestadores de servicios digitales. A lo largo de tres capítulos, se analiza este nuevo marco legislativo y sus implicaciones para el ordenamiento interno.
19
PRESENTACIÓN
Por último, cabe señalar que la monografía que se presenta es fruto del trabajo conjunto de investigadores del área de Derecho del Trabajo y Derecho Civil, en el marco de dos proyectos financiados por la Universidad Pública de Navarra y el Ministerio de Ciencia e Innovación, la Agencia Estatal de Investigación y el FEDER3.
3
PRO-UPNA20 (6135). Implicaciones jurídicas de la integración de la robótica avanzada en la empresa: normas de seguridad, protección de datos, responsabilidad del fabricante y riesgos laborales. PID2021-123514NB-100. PJUPNATransformación digital y prevención de riesgos laborales. Inteligencia Artificial y Prevención de Riesgos Laborales: retos para la normativa preventiva y en materia de responsabilidad financiado por MCIN/AEI/10.13039/501100011033/ FEDER, UE.
20