En la segunda cumbre internacional REAIM sobre el uso militar de la inteligencia artificial (IA), representantes de 121 países instaron este martes a mantener un «rol humano adecuado» en este ámbito.
La declaración conjunta, considerada una primera hoja de ruta para el sector, busca concretar en esta segunda cumbre, celebrada en Seúl, los principios planteados en la primera edición de REAIM del año pasado de cara a una futura implementación.
«Es necesario mantener un rol humano adecuado en el desarrollo, el despliegue y el uso de la IA en el ámbito militar. Incluyendo las medidas adecuadas ligadas al juicio humano y al control sobre el uso de la fuerza», señala el texto.
Las llamadas para asegurar la prevalencia del llamado «juicio humano» se han incrementado recientemente. Este hecho ante una IA que parece ganar ya un peso importante en guerras como la de Ucrania.
Por ejemplo, el uso de IA para programar y operar los llamados drones suicidas, ampliamente utilizados en este y otros conflictos, desata ya preocupación sobre las implicaciones para la población civil.
IA contra la violencia injustificada
Según el texto, el rol humano debería a su vez aplicarse a «todas las acciones que resulten críticas a la hora de elaborar y ejecutar decisiones soberanas relativas al uso de armas nucleares. Todo ello sin que perjudique el objetivo último de un mundo libre de armas nucleares».
Los declarantes piden el establecimiento de salvaguardas adecuadas para garantizar que las aplicaciones de IA resulten fiables en su funcionamiento con base en ese juicio o criterio humano.
A su vez, la declaración llama también a evitar que el avance de la IA aumente la proliferación global armamentística.
«Subrayamos la necesidad de impedir que las tecnologías de IA se utilicen para contribuir a la proliferación de armas de destrucción masiva. También enfatizamos que las tecnologías de IA deben apoyar y no obstaculizar los esfuerzos de desarme, control armamentístico y no proliferación», afirma el comunicado.
Ante la ausencia de legislación transfronteriza que regule el empleo de la IA en sistemas de armamento y de órganos que velen por su cumplimiento, el texto no tiene de momento carácter vinculante alguno.
Unos 2.000 representantes gubernamentales, del sector privado, académico y también de la sociedad civil, han tomado parte en esta segunda entrega de REAIM, coorganizado por Países Bajos, Singapur, Kenia y el Reino Unido, y tras la celebrada en La Haya el año pasado.
El periodismo independiente necesita del apoyo de sus lectores para continuar y garantizar que las noticias incómodas que no quieren que leas, sigan estando a tu alcance. ¡Hoy, con tu apoyo, seguiremos trabajando arduamente por un periodismo libre de censuras!
Apoya a El Nacional