Issuu

Plataformas en línea y prevención del cibercrimen Una aproximación jurídica y criminológica a la moderación de contenidos

Consejo Editorial Miguel Ángel Collado Yurrita Joan Egea Fernández Isabel Fernández Torres José Ignacio García Ninet Javier López García De La Serrana Belén Noguera De La Muela Luis Prieto Sanchís Francisco Ramos Méndez Ricardo Robles Planas Sixto Sánchez Lorenzo Jesús-María Silva Sánchez Joan Manuel Trayter Jiménez Juan José Trigás Rodríguez Director de publicaciones

Plataformas en línea y prevención del cibercrimen Una aproximación jurídica y criminológica a la moderación de contenidos Mario Santisteban Galarza

Colección: Atelier Criminología y Sistema Penal Consejo editorial de la colección Elena Larrauri (Directora) Daniel Varona Jose Pina Lorea Arenas Cristina Güerri

Esta investigación es parte del Proyecto GamerVictim (CIPROM/2022/33) financiado por el programa PROMETEO 2023 de la Conselleria de Innovación, Universidades, Ciencia y Sociedad Digital de la Generalitat Valenciana.

Reservados todos los derechos. De conformidad con lo dispuesto en los arts. 270, 271 y 272 del Código Penal vigente, podrá ser castigado con pena de multa y privación de libertad quien reprodujere, plagiare, distribuyere o comunicare públicamente, en todo o en parte, una obra literaria, artística o científica, fijada en cualquier tipo de soporte, sin la autorización de los titulares de los correspondientes derechos de propiedad intelectual o de sus cesionarios. Este libro ha sido sometido a un riguroso proceso de revisión por pares.

© 2026 Mario Santisteban Galarza © 2026 Atelier Santa Dorotea 8, 08004 Barcelona e-mail: editorial@ateliereditorial.com https://atelieropenaccess.com/ Tel.: 93 295 45 61 I.S.B.N.: 979-13-88250-99-6 Depósito legal: B 18613-2026 Diseño y composición: Addenda, Pau Claris 92, 08010 Barcelona www.addenda.es Impresión: Safekat

Índice P rólogo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Por Fernando Miró Llinares

I. Este libro no es una tesis (aunque empezara como tal) . . . . . . . . . . . II. Este no es exactamente un libro de derecho (aunque su contenido sea profundamente jurídico) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . III. Este libro no se publicará en inglés (aunque Marcus Felson habría disfrutado leyendo el que quizás sea el mejor libro escrito hasta ahora sobre moderación de contenidos) . . . . . . . . . . . . . . . . . . . . . . . IV. No fue una casualidad, pero sí una fortuna . . . . . . . . . . . . . . . . . . . .

I ntroducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . I. Planteamiento general: la moderación de contenidos como prevención del cibercrimen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . II. Estructura del trabajo y objetivos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . III. Agradecimientos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

16 19

21 27 28

PRIMERA PARTE: PREVENCIÓN DEL CIBERCRIMEN Y MODERACIÓN DE CONTENIDOS I. L a moderación de contenidos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1. Hacia una anatomía de la moderación de contenidos . . . . . . . . . . . . . 2. ¿Quién modera contenidos? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3. ¿Cuándo las plataformas moderan contenidos? . . . . . . . . . . . . . . . . . . . 4. ¿Qué contenidos se moderan? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5. ¿Cómo se modera? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6. ¿Qué efectos tiene la moderación de contenidos? . . . . . . . . . . . . . . . . 7. ¿Qué es la moderación de contenidos? . . . . . . . . . . . . . . . . . . . . . . . .

31 31 35 37 42 46 53 61

Mario Santisteban Galarza

II. P revención situacional del cibercrimen y plataformas en línea . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1. Los retos de la prevención del cibercrimen . . . . . . . . . . . . . . . . . . . . . 2. Prevención situacional del delito en los ciber lugares . . . . . . . . . . . . . A) Una primera aproximación . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . B) Aumentar el Esfuerzo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . C) Aumentar el riesgo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . D) Reducir las recompensas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . E) Remover las excusas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . III. L a moderación de contenidos como gestión del ciber lugar . . . 1. El triángulo del crimen y la figura del guardián . . . . . . . . . . . . . . . . . 2. Criminología del lugar y LAS causas de la concentración delictiva en los micro lugares . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3. La aplicación de la teoría de las actividades cotidianas al cibercrimen . 4. La gestión del ciber lugar . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5. Ciber lugares y prevención situacional del crimen: un estudio basado en la plataforma Twitch . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6. ¿Solo gestores? Miró, Lessig y la conjetura del arquitecto . . . . . . . . . .

67 67 74 74 77 80 84 86 89 89 99 103 113 122 124

SEGUNDA PARTE: LA REGULACIÓN DE LA MODERACIÓN DE CONTENIDOS I. A lgunas opciones vitales del legislador a la hora de enfrenarse a la regulación de la moderación de contenidos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

II. L a regulación de la moderación de contenidos a través de la responsabilidad por contenidos de terceros . . . . . . . . . . . 1. Censura colateral y la responsabilidad por contenidos de terceros de los intermediarios digitales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2. La CDA y el posicionamiento estadounidense ante la responsabilidad por hecho ajeno de las plataformas . . . . . . . . . . . . . . 3. La regulación de la (ir)responsabilidad por contenidos ajenos en el Derecho de la Unión Europea . . . . . . . . . . . . . . . . . . . . . . . . . . A) Planteamiento general . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . B) La llamada cláusula de buen samaritano . . . . . . . . . . . . . . . . . . . . C) El conocimiento efectivo y los sistemas de notificación y acción . .

131

135 135 139 144 144 151 153

III. L as obligaciones de diligencia debida como complemento a la responsabilidad por hecho ajeno de los intermediarios . . .

Hacia una nueva forma de regular la moderación de contenidos . . . .

159 159

Plataformas en línea y prevención del cibercrimen

2. Algunos antecedentes de la regulación de la diligencia debida en el control de contenidos europeo . . . . . . . . . . . . . . . . . . . . . . . . . . A) Normas del Derecho de la Unión Europea . . . . . . . . . . . . . . . . . . . B) Normativas de los Estados Miembros que establecen obligaciones de diligencia debida . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . C) Algunas referencias en el ámbito del Derecho comparado . . . . . . . 3. Las obligaciones de diligencia debida del Reglamento de Servicios Digitales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . A) Sujetos obligados . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . B) Contenido de las obligaciones de diligencia debida . . . . . . . . . . . . C) Régimen de ejecución (enforcement) . . . . . . . . . . . . . . . . . . . . . . . D) La gestión del riesgo sistémico en la DSA . . . . . . . . . . . . . . . . . . .

164 164 172 178 181 181 183 192 195

IV. L o que queda y debe quedar sobre la prohibición de establecer obligaciones generales de supervisión . . . . . . . . . . . . . . . . . . . . . .

207

V. Diligencia debida, evidencia empírica y Criminología ambiental: algunas conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

215

Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

221