LAS ARMAS AUTÓNOMAS LETALES:
UN DESAFÍO PARA EL DERECHO INTERNACIONAL HUMANITARIO, LOS DERECHOS HUMANOS, LA SEGURIDAD Y EL DESARME INTERNACIONALES
COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH María José añón roig
Catedrática de Filosofía del Derecho de la Universidad de Valencia
ana Cañizares Laso
Catedrática de Derecho Civil de la Universidad de Málaga
Jorge a. Cerdio Herrán
Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México
José raMón Cossío díaz
Ministro en retiro de la Suprema Corte de Justicia de la Nación y miembro de El Colegio Nacional
eduardo Ferrer MaC-gregor Poisot
Juez de la Corte Interamericana de Derechos Humanos. Investigador del Instituto de Investigaciones Jurídicas de la UNAM
owen Fiss
Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)
José antonio garCía-CruCes gonzáLez
Catedrático de Derecho Mercantil de la UNED
Luis LóPez guerra
Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid
ángeL M. LóPez y LóPez
Catedrático de Derecho Civil de la Universidad de Sevilla
Marta Lorente sariñena
Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid
Javier de LuCas Martín
Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia
víCtor Moreno Catena
Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid
FranCisCo Muñoz Conde
Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla
angeLika nussberger
Catedrática de Derecho Constitucional e Internacional de la Universidad de Colonia (Alemania). Miembro de la Comisión de Valencia
HéCtor oLasoLo aLonso
Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)
LuCiano PareJo aLFonso
Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid
toMás saLa FranCo
Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia
ignaCio sanCHo gargaLLo
Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España
toMás s. vives antón
Catedrático de Derecho Penal de la Universidad de Valencia
rutH ziMMerLing
Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)
Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales
LAS ARMAS AUTÓNOMAS LETALES:
UN DESAFÍO PARA EL DERECHO INTERNACIONAL HUMANITARIO, LOS DERECHOS HUMANOS, LA SEGURIDAD Y EL DESARME INTERNACIONALES
MILTON JOSÉ MEZA RIVAS
Centro de Estudios de Derechos Internacional Humanitario
tirant lo blanch Valencia, 2022
Copyright ® 2022 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor. En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com.
© Milton José Meza Rivas
© TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email:tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es DEPÓSITO LEGAL: V- 558-2022 ISBN: 978-84-1113-758-4 MAQUETA: Disset Ediciones Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro procedimiento de quejas. Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf
AGRADECIMIENTOS Llevar a cabo esta obra representó para mí un esfuerzo y una dedicación personal muy importantes. Los aportes contenidos en ella no los hubiera podido alcanzar sin la participación de personas que me apoyaron a lo largo de toda la investigación. Por lo tanto, es importante para mí aprovechar este espacio para expresarles mis agradecimientos. De manera especial y sincera, agradezco a los profesores Dr. Antonio Madrid Pérez y Dr. Jordi Bonet Pérez por haber aceptado prologar este libro. Al principio, el camino no fue fácil, pero con el tiempo formamos un buen equipo de trabajo. Ambos me impulsaron a seguir adelante dirigiendo mi tesis doctoral de la cual se deriva la presente obra y, en momentos personales muy complejos, estuvieron allí siempre para escucharme y aconsejarme. También he de expresar mi agradecimiento a la Facultad de Derecho de la Universidad de Barcelona (en adelante, UB) por: (a) haberme honrado al nombrarme su representante ante las discusiones internacionales sobre las tecnologías emergentes en el área de los sistemas de armas autónomas letales en el contexto de la conferencia sobre ciertas armas convencionales; y (b) por apoyarme económicamente, en el marco del programa académico «2017 LERU PhD Exchange Scheme», para realizar una estancia académica en la Universidad de Ginebra, Suiza. Todo ello fue clave para desarrollar con excelencia académica gran parte de la investigación hoy reflejada en este libro. Asimismo, agradezco a la profesora Dra. Maite López-Sánchez (UB) por haberme ayudado a comprender aspectos relacionados con las ciencias de la computación y que fueron esenciales para entender y reflexionar de manera interdisciplinar el objeto de estudio de esta obra. También agradezco al profesor Dr. Marco Sassòli (Universidad de Ginebra) por haberme facilitado herramientas y recursos académicos importantes que fueron útiles para profundizar mi investigación. Igualmente, agradezco al Prof. Dr. José Luis Rodríguez-Villasante y Prieto y al Dr. Joaquín López Sánchez (Secretario Técnico del Centro de Estudios de Derecho Internacional Humanitario y Derechos Humanos de Cruz Roja Española —en adelante, CEDIH—) el apoyo que me han brindado para lograr que esta publicación sea una realidad como parte de la colección de obras promovidas por la Cruz Roja Es-
pañola para el estudio y la investigación del derecho internacional humanitario. Asimismo, agradezco a la Prof. Dra. Concepción Escobar Hernández, Directora del CEDIH, por haber hecho la presentación institucional del presente libro. Finalmente, aprovecho la ocasión para agradecer a mis padres, hermana y sobrino por el cariño y apoyo que siempre me han brindado.
RESUMEN En la actualidad, la inteligencia artificial y la robótica afectan a casi todos los aspectos de la vida humana. Ante ese panorama, la rápida evolución de las nuevas tecnologías armamentísticas militares está planteando desafíos jurídicos muy significantes, sobre todo cuando se trata del diseño y uso de armas altamente tecnológicas y sofisticadas que, por su naturaleza, pueden llevar a cabo procesos complejos de focalización (selección y ataque de objetivos, específicamente) con poco —o ningún— nivel de control humano significativo en sus funciones. Así, a través de un análisis cualitativo, transversal, interdisciplinar y prospectivo esta monografía examina las implicaciones jurídicas que trae consigo la investigación, el desarrollo y el uso de los sistemas de armas autónomas letales en los conflictos armados internacionales. A tal efecto, se propone una definición del campo de trabajo, se determina el marco jurídico aplicable y, del mismo modo, se abordan las discusiones internacionales que hoy en día existen acerca del valor estratégico y los potenciales retos que representan las tecnologías emergentes en el área de las armas autónomas en el contexto de los derechos humanos, el derecho internacional humanitario, la seguridad y el desarme internacionales.
Palabras clave: sistemas de armas autónomas letales, autonomía, decisión, responsabilidad, control humano significativo, derecho internacional humanitario, robótica, inteligencia artificial.
ABSTRACT At present, artificial intelligence and robotics affect almost every aspect of human life. Given that panorama, the rapid evolution of new military weapons technologies poses very significant legal challenges, especially when it comes to designing and using highly technological and sophisticated weapons that, by their nature, can carry out complex targeting processes (selection and attack of targets, specifically) with just a little –or no– level of meaningful human control over their functions. Thus, through a qualitative, transversal, interdisciplinary and prospective analysis, this monograph explores the legal implications of research, development and use of lethal autonomous weapons systems in international armed conflicts. For this purpose, a definition of the field of work is proposed, the applicable legal framework is determined and, in the same way, the international discussions that exist today about the strategic value and the potential challenges of emerging technologies in the area of autonomous weapons in the context of human rights, international humanitarian law, international security and disarmament are addressed.
Keywords: lethal autonomous weapons systems, autonomy, decision, responsibility, meaningful human control, international humanitarian law, robotics, artificial intelligence.
RESUM En l’actualitat, la intel·ligència artificial i la robòtica afecten gairebé tots els aspectes de la vida humana. Davant aquest panorama, la ràpida evolució de les noves tecnologies armamentístiques militars està plantejant desafiaments jurídics molt significants, sobretot quan es tracta del disseny i de l’ús d’armes altament tecnològiques i sofisticades que, per la seva naturalesa, poden dur a terme processos complexos de focalització (selecció i atac d’objectius, específicament) amb poc —o ningún— nivell de control humà significatiu en les seves funcions. Així les coses, a través d’una anàlisi qualitativa, transversal, interdisciplinar i prospectiu aquesta monografia examina les implicacions jurídiques que porta amb si la investigació, el desenvolupament i l’ús dels sistemes d’armes autònomes letals en els conflictes armats internacionals. A aquest efecte, es proposa una definició del camp de treball, es determina el marc jurídic aplicable i, de la mateixa manera, s’aborden les discussions internacionals que avui dia hi ha sobre el valor estratègic i els potencials reptes que representen les tecnologies emergents en el àrea de les armes autònomes en el context dels drets humans, el dret internacional humanitari, la seguretat i el desarmament internacionals.
Paraules clau: sistemes d’armes autònomes letals, autonomia, decisió, responsabilitat, control humà significatiu, dret internacional humanitari, robòtica, intel·ligència artificial.
PRESENTACIÓN Si el Derecho Internacional Humanitario (en adelante DIH) es, hoy en día, un sector claramente consolidado del Derecho Internacional e identificado esencialmente con los Convenios de Ginebra de 1949 y sus Protocolos Adicionales, ello no significa que el mismo haya quedado petrificado con la adopción de dichos instrumentos. Por el contrario, el DIH está sometido a una innegable evolución fuertemente ligada a la nueva realidad de los conflictos armados y, en especial, a la aparición de nuevas tecnologías de guerra que pueden afectar a la regulación de los medios y métodos de combate. De hecho, la posibilidad de la aparición de nuevas armas ha formado parte del imaginario internacional y ha sido expresamente contemplada por el Protocolo I de 1977, Adicional a los Convenios de Ginebra, cuyo artículo 36 establece que cada Estado Parte que estudie desarrolle, adquiera o adopte una nueva arma o nuevos medios o métodos de combate tendrá la obligación de determinar si su empleo, en ciertas condiciones o en todas las circunstancias, estaría prohibido por el DIH. Por tanto, no resulta posible afirmar de modo rotundo que el DIH contenga una laguna absoluta respecto de las nuevas armas. Lo que no impide, sin embargo, que nos encontremos ante el hecho de que la irrupción de nuevas tecnologías aplicadas a los conflictos armados suscite -cada vez más- nuevos interrogantes y desafíos referidos a la incidencia que los nuevos tipos de armas pueden tener en la aplicación, respeto y garantía del DIH en la conducción de las hostilidades durante los conflictos armados contemporáneos. En este contexto se ha de situar precisamente el intenso debate que se está produciendo en torno a los sistemas de armas autónomas letales, en los que las funciones críticas de selección de objetivos y ataque pueden ser activadas por el propio sistema, sin una intervención personal (humana) que realice la valoración de su conformidad con las normas humanitarias. La negativa incidencia que este tipo de armamento podría tener sobre la protección de la población civil, así como la especial problemática de la determinación de la responsabilidad por la violación del DIH como consecuencia del empleo de las armas autónomas, constituyen dos de los ejes esenciales del proceso de cuestionamiento internacional del uso de las mismas. Ello
explica que los foros sobre desarme que operan en la Oficina de las Naciones Unidas en Ginebra estén ocupándose de este tipo de armas desde hace varios años y que el Comité Internacional de la Cruz Roja haya incluido esta cuestión en la lista de temas que requieren de un tratamiento y respuesta urgentes. El libro que tengo el placer de presentar forma parte del debate sobre las armas autónomas y contribuye notablemente a clarificar cuestiones de gran importancia relacionadas con las mismas. La calidad e interés del libro se ha visto notablemente favorecida por la extensa experiencia de su autor, el abogado venezolano Milton José Meza Rivas, que ha venido desempeñando notables funciones como abogado y diplomático representante de su país en distintos foros internacionales. Y que, en la actualidad, es consultor del Centro Internacional Suizo para el Diálogo Humanitario (Instituto Henry Dunant) y representante de la Universidad de Barcelona en el Grupo de Expertos Gubernamentales sobre tecnologías emergentes, dentro del área de los sistemas de armas autónomas letales (SAAL) en la Convención sobre ciertas armas convencionales (CCW). La obra tiene su origen en la tesis doctoral del autor del libro, que fue dirigida por los profesores Jordi Bonet Pérez y Antonio Madrid Pérez, y que, bajo el título El desarrollo y el uso de los sistemas de armas autónomas letales en los conflictos armados internacionales, fue defendida en la Universidad de Barcelona en 2019, obteniendo la máxima calificación de Sobresaliente cum laude. La Monografía que ahora ve la luz con el título Las armas autónomas letales: Un desafío para el derecho internacional humanitario, los derechos humanos, la seguridad y el desarme Internacional, forma parte de la extensa colección de obras (18 libros hasta este momento) promovida por el Centro de Estudios de Derecho Internacional Humanitario (CEDIH) de la Cruz Roja Española para el estudio e investigación del DIH y editados desde el año 2000 por Tirant Lo Blanch, dentro de sus Monografías de alta calidad en la investigación jurídica. En esta presentación, queremos reiterar una vez más nuestra gratitud a la editorial Tirant Lo Blanch por su sensibilidad y extensa colaboración en las publicaciones sobre DIH promovidas por nuestra institución.
Desde la óptica de la Cruz Roja Española, la oportunidad del libro que ahora presentamos responde a varias consideraciones. En primer lugar, la actualidad del tema, destacando el gran interés dedicado al mismo por las Naciones Unidas a través de las periódicas reuniones de expertos intergubernamentales de las Altas Partes Contratantes de la CCW (Convención sobre prohibiciones o restricciones del empleo de ciertas armas convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados, Ginebra, 1980); así como los trabajos recientes del CICR. En segundo lugar, la ausencia en España de obras y estudios relevantes sobre el análisis jurídico de los sistemas de armas autónomas letales (SAAL), por lo que su publicación viene a cubrir una laguna importante en la doctrina sobre la materia. Y por último, pero no por ello menos importante, el hecho de que se trata de una obra de madurez de su autor, experto en los SAAL y cuya cualificación se ha visto reforzada por su trabajo como representante de la Universidad de Barcelona en las reuniones de expertos intergubernamentales convocadas por las Naciones Unidas sobre los sistemas de armas autónomas letales. El trabajo que ahora ve la luz tiene una excelente estructura en la que, después de proponer una definición del campo de trabajo de los SAAL y el marco jurídico aplicable, se abordan las discusiones internacionales existentes acerca del valor estratégico y los potenciales retos que representan las tecnologías emergentes en el área de las armas autónomas, dentro del contexto de los Derechos Humanos, el DIH, la seguridad internacional y el desarme. El núcleo duro de la publicación se concreta en las implicaciones jurídicas del desarrollo y uso de los SAAL y, finalmente, en la responsabilidad y la rendición de cuentas por la comisión de violaciones del DIH a través de los SAAL en los conflictos armados internacionales. Además, conviene destacar que, sin perder la perspectiva jurídica, la obra tiene un acusado carácter interdisciplinario, contribuyendo al estudio de la materia desde el punto de vista de la inteligencia artificial, la robótica, las tecnologías emergentes de valor estratégico, la seguridad internacional y el desarme. A la cuidada bibliografía, se añade un glosario de términos de gran utilidad práctica. Al exponer, a través de un análisis cualitativo, transversal, interdisciplinar y prospectivo, las implicaciones jurídicas que suscitan la investigación, el desarrollo y el uso de los sistemas de armas au-
tónomas letales en los conflictos armados internacionales, el autor realiza una aportación importante al cumplimiento del DIH, en lo relativo a la conducción de las hostilidades y medios actuales de combate. Ello le permite ofrecer conclusiones de notable interés, entre las que cabe destacar –en primer lugar- la siguiente premisa que el autor califica de fundamental: las obligaciones del Derecho Internacional de los Conflictos Armados ( o Derecho Internacional Humanitario) jamás serán aplicables directamente a las máquinas como sujetos destinatarios de estas. A lo que añade que cualquier reflexión jurídica sobre el uso de tecnologías emergentes en el área de los SAAL debe hacerse bajo un enfoque antropocéntrico, con afortunada referencia a la Cláusula Martens. Para el autor, las armas autónomas, en sí mismas, no tienen por qué ser consideradas ilegales si cumplen con las normas básicas del DIH (los principios de distinción, de proporcionalidad y de precaución en el ataque, la prohibición de no dar cuartel y la protección de las personas fuera de combate). A tal efecto, concluye que los Estados deberán establecer restricciones a la autonomía en las funciones de estos sistemas de armas, de tal forma que se garantice el ejercicio de un control humano significativo, efectivo o apropiado sobre las tareas del arma autónoma, en especial sobre la supervisión humana y la capacidad de intervenir y desactivar el SAAL una vez que ha sido desplegado, definiendo requisitos técnicos sobre la previsibilidad y la fiabilidad del sistema e imponiendo restricciones operativas en la ejecución de cualquier ataque armado llevado a cabo por el sistema autónomo. Nos encontramos, pues, ante una obra de gran interés y calidad, caracterizada por su naturaleza sistemática y por la exhaustiva presentación de las distintas posiciones doctrinales, pero también de las no menos importantes posiciones mantenidas por los Estados y por el Comité Internacional de la Cruz Roja, que se ven completadas con propuestas que no deben ser desconocidas para el progreso futuro del DIH y otras normas humanitarias. Por todo ello, la publicación de la obra que hoy tengo el honor de presentar constituye una buena noticia tanto para los profesionales del Derecho Internacional Público como para el resto del mundo académico y, en particular, para el Movimiento Internacional de la Cruz Roja y de la Media Luna Roja y de otras organizaciones humanitarias.
Al recomendar la lectura de este libro, que sin duda se convertirá en un referente en la materia, expresamos nuestra enhorabuena y gratitud a su autor, valioso colaborador de la Cruz Roja Española, deseándole un brillante futuro profesional y académico. Madrid, 30 de septiembre de 2021
CONCEPCIÓN ESCOBAR HERNÁNDEZ
Directora del CEDIH de Cruz Roja Española