El pasado 16 de julio, laureados con el premio Nobel, científicos, expertos en inteligencia artificial, líderes religiosos y antiguos jefes de Estado suscribieron, en el Capitolio de Roma, la Declaración de Roma por una paz desarmada y desarmante, una iniciativa concebida ante la convergencia de tres fuerzas capaces de transformar la seguridad internacional: la inteligencia artificial, las armas autónomas y los arsenales nucleares.
Su mensaje no debe interpretarse como un rechazo al desarrollo tecnológico. La inteligencia artificial ya puede contribuir a la seguridad internacional mediante el análisis de imágenes satelitales, la detección de lanzamientos, la identificación de ataques cibernéticos y la evaluación, en cuestión de segundos, de enormes cantidades de información. Empleada prudentemente, puede advertir amenazas, reducir errores humanos y presentar escenarios que permitan a los gobernantes tomar decisiones mejor informadas.
El problema comienza cuando la máquina deja de asistir al ser humano y empieza a sustituirlo.
La diferencia entre recomendar una decisión y tomarla puede parecer técnica. En realidad, es una diferencia jurídica, moral y civilizatoria. Una inteligencia artificial puede calcular probabilidades, pero no puede asumir la responsabilidad por sus consecuencias. Puede identificar patrones, pero no responder ante un tribunal, una nación o la historia. Mucho menos puede cargar con el peso moral de una decisión capaz de provocar millones de muertes.
Esta distinción resulta especialmente importante en el ámbito nuclear. Desde la creación de estas armas, la humanidad ha vivido bajo un equilibrio precario, basado en la disuasión, la comunicación entre adversarios y la expectativa de que, en el momento decisivo, una persona conservará la capacidad de detener la escalada. El secretario general de las Naciones Unidas ya ha reclamado que el control y la intervención humanos sobre las armas nucleares sean considerados principios irrenunciables.
La inteligencia artificial podría mejorar los sistemas de alerta temprana, pero también podría acelerar peligrosamente los ciclos de decisión. Ante la aparente detección de un ataque, un algoritmo podría recomendar una respuesta inmediata basándose en datos incompletos, sensores defectuosos, información manipulada o una operación de engaño.
En una crisis nuclear, la velocidad no siempre equivale a seguridad.
En ocasiones, la demora, la duda y la prudencia han evitado una catástrofe. La historia de la Guerra Fría contiene episodios en los que oficiales cuestionaron advertencias técnicas que parecían indicar ataques inminentes. Automatizar progresivamente ese proceso podría eliminar, precisamente, el espacio en el que todavía pueden intervenir el juicio, la intuición y la responsabilidad personal.
La geopolítica tampoco funciona exclusivamente mediante datos. En ella intervienen la cultura estratégica, las señales diplomáticas, los antecedentes históricos, la desinformación y las percepciones sobre las intenciones del adversario. Una máquina puede procesar estos elementos, pero no convertirlos en responsabilidad moral.
Incluso si algún día un sistema artificial alcanzara una precisión superior a la humana, permanecería una pregunta fundamental: ¿debe una máquina poseer autoridad para decidir sobre la supervivencia de ciudades enteras?
La respuesta debe ser negativa.
Esto no significa excluir la inteligencia artificial de la defensa nacional. Significa establecer una frontera clara: la IA puede informar, alertar, calcular y recomendar, pero la decisión final sobre el uso de la fuerza —especialmente la nuclear— debe permanecer bajo control humano efectivo. El Comité Internacional de la Cruz Roja ha advertido que la pérdida de ese control puede volver impredecibles los resultados y dificultar la aplicación del derecho internacional humanitario.
La Declaración de Roma, sin embargo, enfrenta un desafío práctico: transformar un principio moral en compromisos verificables.
Los tratados tradicionales permiten contar misiles, inspeccionar instalaciones y vigilar materiales nucleares. Un algoritmo no puede supervisarse de la misma manera. Puede ocultarse dentro de un sistema de mando, modificarse mediante una actualización o presentarse oficialmente como una herramienta consultiva cuando, en la práctica, determina la decisión.
Por eso será necesario desarrollar protocolos internacionales de transparencia, auditoría y comunicación entre las potencias nucleares. No bastará con afirmar que existe “un ser humano en el circuito”. Ese ser humano deberá contar con información suficiente, tiempo real para deliberar y autoridad efectiva para rechazar la recomendación automatizada. De lo contrario, su presencia será meramente simbólica.
Panamá no posee armas nucleares, pero no está aislada de este debate. Nuestro país administra una vía interoceánica que depende de la estabilidad internacional. Una confrontación entre grandes potencias alteraría inmediatamente las rutas marítimas, los seguros, las cadenas logísticas, los mercados energéticos y el comercio que sostiene nuestra economía.
La inteligencia artificial puede ayudarnos a comprender el mundo con una velocidad nunca antes vista. Pero comprender no equivale a decidir. Mientras la guerra continúe siendo una tragedia humana, la responsabilidad de iniciarla —y la obligación de impedirla— deben permanecer en manos humanas.
La Declaración de Roma nos recuerda que el desafío más importante no consiste solamente en construir máquinas más inteligentes, sino en evitar que quienes las utilizan renuncien a su conciencia y a su responsabilidad.
El autor es empresario.
