Negociaciones en la ONU: Estados Unidos y Rusia retiran el requisito de revisión humana obligatoria en armas autónomas

1. La Desarticulación del Control Humano Significativo (MHC)

El reporte diplomático filtrado y difundido por AI Weekly documenta la resistencia frontal de las dos mayores potencias militares a restringir el empleo de enjambres de drones autónomos, sistemas de intercepción antimisiles a velocidad hiperbólica y torretas robotizadas de frontera.

El principio de Control Humano Significativo (Meaningful Human Control - MHC), defendido durante más de una década por la Cruz Roja Internacional y decenas de Estados no alineados de América Latina, Europa y África, exigía que un operador humano comprendiera el contexto del blanco y tomara la decisión ética individual de activar la fuerza letal. Washington y Moscú argumentaron que, ante ataques de saturación masiva con misiles hipersónicos y microdrones a velocidad de milisegundos, imponer un cuello de botella de aprobación humana condena a la destrucción a cualquier defensa militar moderna.

"Al suprimir la exigencia de que un ser humano apriete el gatillo, la comunidad internacional ha cruzado el Rubicón moral. Estamos delegando legalmente el poder de la vida y la muerte en líneas de código y redes neuronales convolucionales."

2. Modificaciones Clave al Borrador de Ginebra

El texto enmendado introduce cambios semánticos que debilitan sustancialmente las obligaciones de los Estados firmantes:

• De "Revisión Humana Ineludible" a "Responsabilidad en la Fase de Programación": Se exime al mando militar de validar cada disparo en tiempo real si el algoritmo fue previamente auditado en simulaciones de laboratorio.
• Exclusión de Enjambres Defensivos Perimetrales: Los sistemas de defensa de bases, buques y silos nucleares quedan expresamente excluidos de cualquier restricción de autonomía letal.
• Eliminación de Mecanismos de Inspección de Código Fuente: Se rechazó la creación de un organismo técnico internacional similar al OIEA para auditar los pesos y directivas de los modelos militares.

4. La Controversia en Ginebra: ¿El Fin del Control Humano Significativo?

Las deliberaciones en el Palacio de las Naciones de Ginebra dentro del marco de la Convención sobre Ciertas Armas Convencionales (CCAC) expusieron la fractura definitiva entre las potencias militares y la comunidad humanitaria internacional. La decisión conjunta de Estados Unidos y Rusia de eliminar la cláusula que exigía la 'autorización humana positiva y deliberada' antes de cada disparo de un sistema letal responde a una realidad tecnológica indisimulable:

• La Velocidad Supersónica del Combate Moderno: En escenarios de guerra electrónica saturada y ataques coordinados de enjambres de microdrones que vuelan a velocidades superiores a 150 km/h, el tiempo de reacción humano (promedio de 250 a 400 milisegundos) resulta incompatible con la defensa efectiva de instalaciones críticas.
• Interferencia y Guerra Electrónica Extrema: Al operar en ambientes con bloqueo total de señales satelitales (GPS) y telecomunicaciones por radio, las armas autónomas deben necesariamente tomar decisiones de orientación y selección de objetivos de forma completamente aislada sin enlace con un operador remoto.

5. El Riesgo de Escalada Algorítmica y Falsa Alarma Automatizada

Organizaciones no gubernamentales y comités científicos de la Cruz Roja Internacional advierten sobre los peligros existenciales de delegar el uso de la fuerza en algoritmos de visión artificial:

1. Errores de Clasificación en Ambientes Complejos: Un sistema de visión neural puede confundir herramientas agrícolas o vehículos de emergencia con material militar bajo condiciones de lluvia, humo o camuflaje deliberado, desatando tragedias de civiles sin responsabilidad penal atribuible.
2. Bucles de Retroalimentación Destructivos: Si dos ejércitos despliegan sistemas autónomos contrapuestos programados para responder a la agresión en nanosegundos, una escaramuza menor puede escalar en minutos hacia un conflicto total antes de que los líderes políticos puedan intervenir.

6. El Rol de los Países No Nucleares y la Diplomacia Regional

Frente al abandono de las restricciones por parte de las superpotencias:

• Llamado a un Tratado de Prohibición Vinculante: Países de América Latina, liderados por Costa Rica, México y Argentina, impulsan la creación de un instrumento jurídico internacional independiente, similar al Tratado de Prohibición de las Armas Nucleares, que penalice el desarrollo y comercio de robots asesinos totalmente autónomos.
• Compromiso Ético de la Comunidad Académica: Fomentar que los centros universitarios y las asociaciones profesionales de ingenieros del país suscriban juramentos deontológicos que prohíban la aplicación de modelos de visión y robótica en sistemas de armamento letal autónomo.

7. La Paradoja de la Automatización Táctica y el Derecho Internacional

El retiro del requisito de revisión humana obligatoria sitúa a la doctrina militar al límite del Derecho Internacional Humanitario y los Convenios de Ginebra. Juristas internacionales destacan que los algoritmos carecen de subjetividad jurídica para discernir conceptos fundamentales como la proporcionalidad del ataque o la distinción entre combatientes y civiles en situaciones de rendición. Delegar la decisión de vida o muerte en pesos matemáticos abre un vacío de impunidad donde ni los comandantes militares ni los fabricantes de software asumen la responsabilidad legal por crímenes de guerra cometidos por máquinas autónomas.

8. El Desafío de la Ciberseguridad en Armas Autónomas

Asimismo, existe un riesgo técnico mayúsculo: la vulnerabilidad de estos sistemas a ciberataques de suplantación de identidad (spoofing) o envenenamiento de sensores. Si un actor adversario logra alterar las firmas de reconocimiento visual de los drones mediante técnicas de camuflaje adversarial, los enjambres robóticos podrían volver sus armas contra sus propias tropas o contra poblaciones inocentes sin que ningún operador humano pueda impedirlo a tiempo.