1_9788411693073

BIOMETRÍA Y SISTEMAS

AUTOMATIZADOS DE RECONOCIMIENTO DE EMOCIONES: IMPLICACIONES JURÍDICOLABORALES

ColeCCión laboral

(Fundada por IGNACIO ALBIOL MONTESINOS)

Consejo científico: JOSÉ MARÍA GOERLICH (DIRECTOR)

ÁNGEL BLASCO PELLICER

JESÚS R. MERCADER UGUINA

FRANCISCO PÉREZ DE LOS COBOS ORIHUEL REMEDIOS ROQUETA BUJ

Procedimiento de selección de originales, ver página web:

www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales

BIOMETRÍA Y SISTEMAS AUTOMATIZADOS DE RECONOCIMIENTO DE EMOCIONES: IMPLICACIONES

JURÍDICO-LABORALES

ANA BELÉN MUÑOZ RUIZ

Profesora Titular de Derecho del Trabajo y de la Seguridad Social Universidad Carlos III de Madrid Miembro de la Comisión de Estudio de las Repercusiones Laborales de los Algoritmos del Ministerio de Trabajo y Economía Social.

tirant lo blanch

Valencia, 2023

Copyright ® 2023

Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor.

En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com.

© TIRANT LO BLANCH

EDITA: TIRANT LO BLANCH

C/ Artes Gráficas, 14 - 46010 - Valencia

TELFS.: 96/361 00 48 - 50

FAX: 96/369 41 51

Email:tlb@tirant.com www.tirant.com

Librería virtual: www.tirant.es

DEPÓSITO LEGAL: V-1606-2023

ISBN: 978-84-1169-307-3

MAQUETA: Disset Ediciones

Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/ politicas-de-empresa nuestro procedimiento de quejas.

Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf

“Del mismo modo que la palabra expresa el pensamiento, el cuerpo expresa mi existencia”

La arquitectura de la privacidad se está transformando radicalmente en nuestros días. Los algoritmos y la Inteligencia Artificial (IA) se están convirtiendo en instrumentos en los que la empresa post-material delega funciones centrales de su poder. Por el momento son las grandes empresas las que implementan estos modelos, pero es cuestión de tiempo que los mismos se expandan a las pequeñas y medianas. Su uso se está generalizando y va desde los procesos de selección hasta las múltiples formas de ejercicio de las facultades de dirección y control, llegando, incluso, a las propias decisiones extintivas. En algún trabajo he calificado este proceso como la “gran delegación empresarial”.

Dentro de este proceso, el desarrollo la tecnología, en su más amplio y extenso sentido, está convirtiendo al cuerpo humano en un espacio de computación y, por tanto, de control. Como gustaba decir a lo existencialistas, el cuerpo no es una pantalla entre yo y el mundo, sino que da forma a nuestra forma primaria de seren-el-mundo. El ser humano es una máquina (en la conocida expresión de Le Metrrie) en la que todos y cada uno de los factores anatómicos y actuaciones personales ligadas a su funcionamiento tienen señas diferenciales, propias y específicas, que hacen a cada individuo radicalmente distinto de todos los demás de su especie. Ello permite construir una métrica de cada concreto individuo: la biométrica. Y es que los sistemas biométricos están estrechamente vinculados a una persona, dado que pueden utilizar una determinada propiedad única de un individuo para su identificación o autenticación. Mientras que los datos biométricos de una persona pueden suprimirse o alterarse, la fuente de la que se han extraído en general no puede ser modificada ni suprimida. Los sistemas biométricos quedan, de este modo, referidos a características de los individuos que son universales (todos los individuos las tienen), unívocas (distinguen a cada individuo), permanentes (en el tiempo y en distintas condiciones ambientales) y mensurables (son medibles de forma cuantitativa).

Tal como se precisaba en el documento de trabajo sobre biometría (WP80) de 2003, del Grupo de Trabajo del Artículo 29, se puede distinguir entre dos categorías principales de técnicas biométricas: En primer lugar, existen técnicas basadas en aspectos físicos y fisiológicos que miden las características fisiológicas de una persona e incluyen: comprobación de las huellas digitales, análisis de la imagen del dedo, reconocimiento del iris, análisis de la retina, reconocimiento facial, resultados de muestras de las manos, reconocimiento de la forma de la oreja, detección del olor corporal, reconocimiento de la voz, análisis de muestras del ADN y análisis de los poros de la piel, etc. En segundo lugar, existen técnicas basadas en aspectos comportamentales, que miden el comportamiento de una persona e incluyen la comprobación de la firma manuscrita, el análisis de la pulsación sobre las teclas, el análisis de la forma de caminar, la forma de moverse, pautas que indiquen pensamiento subconsciente como mentir, etc. También deben tenerse en cuenta las técnicas basadas en elementos psicológicos, que incluyen la medición de la respuesta a situaciones concretas o pruebas específicas que se ajusten a un perfil psicológico. La identidad biológica es propia de cada sujeto y, por tanto, cualquier instrumento que la utilice permitirá, a quien de él se sirva, internarse en el terreno más recóndito que cada ser humano tiene. Podría decirse que, a su través, se puede entrar en la intimidad de la intimidad. Ese carácter invasivo entraña numerosos riesgos para la dignidad humana, riesgos que alcanzan mayor voltaje si tenemos en cuenta que el uso de los sistemas biométricos se está convirtiendo, por momentos, en una potente herramienta de control empresarial. Un control que se extiende sobre todas las facetas de la vida: esta información, sirve, unas veces como un mecanismo sencillo, gratuito y seguro para blindar nuestras transacciones bancarias; otras para convertir nuestro rostro en un sustituto de la tarjeta de embarque al asegurar una identificación exclusiva de cada viajero o, en fin, de manera que tal que deviene en instrumento utilizado por Gobiernos de todo el mundo para controlar los movimientos de masas.

Los riesgos de este proceso son narrados con gran lucidez por Ana Belén Muñoz Ruiz en la obra que tengo el gran placer de prologar: “Biometría y sistemas automatizados de reconocimiento de emociones: implicaciones jurídico laborales” y que le sirvió

para acceder brillantemente a la plaza de profesora titular de Universidad Carlos III de Madrid. La Profesora Muñoz es una reconocida investigadora en el campo de lo que podríamos denominar el “Derecho del Trabajo Digital” (entendiendo por tal aquél que se enfrenta a los radicales cambios y transformaciones que está viviendo la realidad laboral como consecuencia de la incorporación a su dinámica de los procesos de robotización, así como de la integración de algoritmos y sistemas de Inteligencia Artificial), como lo demuestra su participación en Congresos nacionales e Internacionales y su condición de miembro de la Comisión de Expertos del Ministerio de Trabajo y Economía Social para la redacción de la “Guía Práctica sobre obligación empresarial de información sobre uso de algoritmos en el ámbito laboral”, así como las numerosas publicaciones que ha realizado en los últimos años en esta materia. Esta obra viene a ratificar, pues, su condición de auténtica especialista en una materia central para el entendimiento del trabajo futuro.

El interés de la autora por la materia que sirve de base a esta obra se encuentra bien fundado. El uso de los sistemas biométricos ha venido teniendo notable protagonismo en el mundo del trabajo y su uso se ha centrado en las técnicas basadas en aspectos físicos y fisiológicos que miden las características fisiológicas de una persona y las técnicas basadas en aspectos comportamentales. Un momento particularmente relevante en este proceso ha sido, como pone de manifiesto la autora, la exigencia legal de mantener y conservar por las empresas un registro de la jornada laboral lo que llevó a primer plano el uso de la huella digital como instrumento utilizado por las empresas para cumplir con la exigencia legal. Desde esta realidad se han venido a extender otras posibilidades de control impensables hace unos años. Así, comienzan a aparecer sistemas de biometría vocal, tecnología de gran potencial para el teletrabajo (la voz es una característica única en cada persona, por lo que no se puede hackear ni suplantar, ni siquiera con grabaciones o por imitadores), las formas de control mediante la verificación de patrones oculares o la instalación en las empresas de sistemas de reconocimiento facial. En los últimos tiempos, el hecho de que el latido del corazón pueda ser utilizado como una herramienta biométrica para identificar a las personas viene

también a engrosar la lista de variables biométricas susceptibles de ser usadas como medio de individualización y control.

Pero la obra de la Profesora Muñoz buscar alcanzar territorios más profundos al situar el eje central de su reflexión en los sistemas automatizados de reconocimiento de emociones. El cuerpo y la conciencia se encuentran implicados en vivencias y sentimientos compartidos, de modo que el sistema nervioso, el cerebro y el modo de comportarse y afrontar el mundo no pueden ser comprendidos como estructuras separadas. Antes al contrario, como dijo Merlau-Ponty, deben ser entendidos como una estructura sistémica. Entre las manifestaciones del cuerpo figuran la recepción pasiva ante los estímulos del medio y la respuesta activa ante ellos; la interacción global que cohesiona a la psique con el entorno gracias a impulsos como las emociones y los sentimientos.

Las emociones, se ha dicho, no son algo que me ocurre, sino algo que yo hago. Los juicios y cogniciones afectan a las emociones y son la causa de que estás tengan lugar. En suma, son “disposiciones mentales” que generan actitudes y éstas pueden ser objeto de control, valoración y seguimiento. Existe, por ello, un vínculo estrecho entre los sistemas de reconocimiento de emociones y los datos personales de la persona trabajadora en la medida en que los primeros se alimentan de los datos biométricos (expresiones faciales, actividad cerebral, voz, entre otros). Esta conexión tiene importantes consecuencias jurídicas en la normativa aplicable pues al afectar a la privacidad del individuo pone en marcha el sistema tutelar que incorpora el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos). Un modelo que en el futuro quedará integrado por ese puente necesario que será, cuando finalmente vea la luz, Ley de Inteligencia Artificial. Esta última tendrá fuertes repercusiones laborales al prohibir algunos de los sistemas de IA y calificar otros de alto riesgo lo que llevará consigo su limitación y la aplicación de un severo sistema de garantías para su uso.

Pero el reto de limitar el control de las emociones por las empresas ya está aquí. Como explica la Profesora Muñoz, un magnífico ejemplo de esta realidad es la resolución de la Agencia de

Protección de Datos húngara en la que revisaba la práctica llevada a cabo por un banco durante 45 días y que consistía en utilizar un software de procesamiento de señales de voz basado en inteligencia artificial. El mencionado software analizaba y evaluaba los estados emocionales de los clientes y las palabras clave utilizadas en las llamadas. La finalidad de esta tecnología era gestionar las quejas, controlar la calidad de las llamadas y del trabajo y, además, aumentar la eficiencia de los empleados. A continuación, los resultados de este análisis se almacenaban junto con las grabaciones de las llamadas y estos datos se usaban para clasificar las llamadas en orden de prioridad. La justificación del banco para el procesamiento de datos se basó en su interés legítimo de garantizar buenos niveles de retención de clientes y eficiencia. Sin embargo, el NAIH concluyó que el banco no había considerado adecuadamente los intereses en juego y le sancionó con una multa de 670.000 € obligándole a suspender el uso del sistema de análisis de emociones descrito.

Como decimos, la Profesora Muñoz Ruiz dedica varios capítulos de esta obra a analizar los sistemas de reconocimiento de emociones, a valorar las razones que pueden llevar a las empresas a utilizar estos métodos y, en fin, a analizar las obligaciones empresariales que lleva consigo el uso de este tipo de sistemas. Este último punto me parece crucial. Y es que esta realidad impone la necesidad de recrear un sistema de garantías adaptado a estas también nuevas exigencias. Como explica Ferrajoli, “las garantías no son otra cosa que las técnicas previstas por el ordenamiento para reducir la distancia estructural entre normatividad y efectividad, y, por tanto, para posibilitar la máxima eficacia de los derechos fundamentales”. El objetivo último de los futuros cambios normativos en esta materia no debe ser otro que establecer un sistema tutelar efectivo que sitúe a la dignidad humana en el centro.

Concluyo. En un libro de lectura imprescindible [Ser o no ser (un cuerpo)], Santiago Alba Rico señala cómo “millones de imágenes capturadas por cámaras ajenas o servidas por nuestros propios teléfonos móviles han acabado por depositarse en un mundo paralelo mucho más poblado y mucho más frecuentado que el de nuestros espacios corporales, y ello, añade, hasta el punto de que puede decirse sin exagerar que hoy son mucho más visibles nuestras imágenes que nuestros cuerpos”. El resultado es que “el

espejo ha triunfado sobre el cuerpo y se ha emancipado de él”. Este nuevo dualismo entre el “cuerpo físico” (con su parte física y su dimensión emocional) y el “cuerpo imagen” nos debe hacer reflexionar sobre el alcance de los retos que tenemos por delante y en los que el “cuerpo” en sus más diversas y plurales dimensiones cobra y cobrará un protagonismo esencial. En ese viaje hacia el entendimiento de la realidad laboral presente y futura el libro que Ana Belén Muñoz ahora nos presenta resulta una excelente compañía y una magnífica oportunidad para la reflexión propioceptiva del significado de la transformación tecnológica.

Madrid, 28 de marzo de 2023

Capítulo 1. Planteamiento de la investigación1

Desde los comienzos de los años 90 se viene investigando en los sistemas de reconocimiento automático de las emociones. Programadores y matemáticos sugieren tres modos de expresión emocional adecuados para la detección automatizada: (i) la emoción a partir de la expresión facial; (ii) la detección de la emoción a partir del habla y; (iii) la detección de la emoción multimodal, es decir, la combinación de la emoción facial y del habla. De los tres modos de expresión emocional, la expresión facial es una de las formas más poderosas que tienen las personas para entablar conversaciones y comunicar emociones y otras señales mentales, sociales y fisiológicas. Una de las formas más importantes en que las personas muestran sus emociones es a través de las expresiones faciales. El sistema de reconocimiento de expresiones faciales ha cautivado a muchos investigadores de numerosas disciplinas, como los campos de la robótica, la psicología y la visión por ordenador. Además, se han identificado nuevos usos en áreas como los sistemas de interacción hombre-máquina, la recuperación de imágenes, el modelado facial, los sistemas de monitorización de pacientes para la detección del dolor y la depresión, la detección de fatiga en la conducción y también en el ámbito laboral (2). El objeto de la presente investigación es precisamente abordar los efectos jurídico-laborales de los sistemas automatizados de reconocimiento de emociones. Por sistemas automatizados cabe entender la realización autosuficiente y por parte de entes artificiales (máquinas de diversos tipos) de tareas con anterioridad confiadas a personas o animales (3). Si bien el mapa de opciones

1 El presente libro se enmarca en el Proyecto de Investigación “La dimensión socio-laboral de los riesgos asociados al cambio tecnológico: conceptualización, prevención y reparación” (PID2021-124979NB-I00), financiado por la Agencia Estatal de Investigación (AEI) y dirigido por el Prof. Jesús R. Mercader Uguina.

2 Prasanthi Jasmine, K. y Naga Prakash, K., Reconocimiento de emociones humanas a partir de imágenes de rostros, Ediciones Nuestro Conocimiento, 2021, pp. 5-6.

3 Así se distingue la automatización del uso de herramientas como soldadores, destornilladores eléctricos o una calculadora, que son manejados por un humano. Automatizar un proceso de negocio incluye tres áreas fundamentales:

de automatización de procesos puede ser muy amplio, los avances en inteligencia artificial no sólo amenazan con desplazar algunas funciones de las personas trabajadoras sustituyéndolos por sistemas automatizados (4), sino que también pueden suponer un incremento del control ejercido por la dirección (5).

Querer comprender el comportamiento humano ignorando las emociones es como querer comprender el funcionamiento de un coche ignorando su motor. Los sistemas de reconocimiento de emociones pueden ser una fuente potencial de información para las empresas sobre sus trabajadores. En esta lógica, resulta igual de importante comprender las propias emociones como reconocer las emociones de los demás. Más aún cuando, con frecuencia, las motivaciones humanas residen en el estado emocional de los agentes (6). A partir de estas premisas, el presente trabajo explicará el desarrollo de las fuentes de la biometría desde los sistemas estáticos a los dinámicos para llegar a la definición de sistema de reconocimiento de emociones en el plano laboral. En el trabajo se formulan interrogantes de gran calado: ¿debe prohibirse cualquier sistema de reconocimiento de emociones en el ámbito laboral, o sólo los llamados de alto riesgo?; ¿cómo inciden estos sistemas en los derechos fundamentales de las personas empleadas?; ¿están legitimadas las empresas para su aplicación en el ámbito laboral?; ¿en qué supuestos y bajo qué parámetros?

Si bien se podría apuntar que se trata de una investigación novedosa y de aplicación futura, hay que advertir que ya existen resoluciones en Europa vinculados con el reconocimiento de

i) Automatizar actividades concretas de ese proceso de negocio; ii) Automatizar la lógica del proceso, es decir, la estructura de tareas que componen el proceso y las reglas que rigen qué tarea debe realizarse en cada momento y por parte de quién; iii) y, automatizar la información, es decir, digitalizar la recogida, almacenamiento y acceso a la información del proceso, aquellos datos que genera o utilizar el proceso, Gavilán, Ignacio G.R., Robots en la sombra. RPA, robots conversacionales y otras formas de automatización cognitiva, Madrid, Anaya, 2021, pp. 235 y 237.

4 Wilkins, Neil., Inteligencia artificial. Una guía completa sobre la IA, el aprendizaje automático, el Internet de las Cosas, la Robótica, el Aprendizaje Profundo, el Análisis Predictivo y el Aprendizaje Reforzado, Bravex Publications, 2019, p. 98.

5 Chomsky, Noam, Chomsky esencial, Planeta, 2012, p. 312.

6 Pinea Oliva, David, Sobre las emociones, Ediciones Cátedra, 2019, p. 12.