Christopher Giles * - Equipo de investigación BBC Eye
Algunos empleados de Google han reaccionado negativamente al uso de su tecnología de inteligencia artificial con fines militares.
La BBC habló con varios trabajadores que renunciaron recientemente de Google DeepMind, la empresa de inteligencia artificial de Google, o que están en proceso de abandonarla, debido a la preocupación que les generan los contratos militares de la firma tecnológica.
Sofia Liguori, ingeniera de investigación afincada en Londres, es una de ellas. Esta semana renunció a su puesto en Google DeepMind y, a pesar de que su contrato se lo prohibía, habló en exclusiva con la BBC de sus preocupaciones sobre el tema.
"Al darme cuenta de que mi empresa está impulsando cada vez más el uso de sistemas de IA en operaciones militares, me avergüenza trabajar en Google", dijo Liguori, a título personal.
En respuesta, un portavoz de Google le dijo a la BBC: "Trabajamos con organizaciones del sector público en todo el mundo y seguimos un proceso coherente para revisar y formalizar estos contratos, incluido el cumplimiento de nuestras políticas de uso aceptable y los principios de IA".
Y añadió: "También contamos con canales específicos para que los empleados puedan plantear de forma segura cualquier inquietud, desde ética empresarial hasta mala conducta, y tenemos políticas laborales estrictas para evitar represalias de cualquier tipo".
Google es una de las varias empresas tecnológicas que firmaron contratos con el ejército estadounidense a principios de este año para implantar la inteligencia artificial en entornos militares clasificados.
El secretario de Defensa de EE.UU., Pete Hegseth, ha convertido la integración de la IA en las fuerzas armadas en una prioridad clave, y ha afirmado que la administración Trump las convertirá en una "fuerza de combate basada en la IA".
Dudas sobre el uso de la IA en la guerra
La tecnología de IA evoluciona rápidamente y los críticos cuestionan si es lo suficientemente fiable como para ser utilizada en la guerra sin más pruebas, mayores medidas de seguridad y supervisión humana.
Tras trabajar tres años en la empresa, Liguori señaló que decidió dimitir debido al creciente trabajo de Google con los ejércitos de Estados Unidos e Israel.
"No estoy de acuerdo con esta dirección y esto me ha llevado a perder la fe en que mi empresa sea fiel a los valores éticos que declara", apuntó.
Según los Principios de IA de Google, estos valores incluyen la implantación de la IA con "supervisión humana" y el alineamiento de la tecnología con el "derecho internacional y los derechos humanos".
Sin embargo, exempleados y empleados actuales de la compañía, así como expertos consultados por la BBC, expresaron su preocupación por el nivel de supervisión humana en momentos críticos.
Los trabajadores del sector tecnológico afirmaron estar especialmente preocupados por los acuerdos militares sobre inteligencia artificial firmados este año, ya que amplían enormemente el abanico de usos que el Pentágono puede darle a esta tecnología.
Andreas Kirsch, investigador de inteligencia artificial, también dimitió de Google DeepMind a principios de este mes.
Kirsch le dijo a la BBC que cree que "la gobernanza y la supervisión de Google no son suficientes ni lo suficientemente significativas como para desplegar la IA de forma segura y responsable en entornos militares y clasificados" o "para desarrollar una superinteligencia artificial de forma segura en el futuro".
"Google parece no tener derecho a controlar ni a vetar cómo el Pentágono utiliza su IA, y además parece tener una visibilidad limitada sobre cómo se está implantando", añadió.
En los últimos años, el ejército estadounidense ha desplegado múltiples tecnologías basadas en inteligencia artificial para mejorar sus capacidades bélicas.
El ejemplo más destacado es Maven Smart Systems, la principal plataforma de software del Pentágono para la organización de inteligencia y datos.
Desarrollado por la empresa de defensa estadounidense Palantir, este sistema utiliza inteligencia artificial para ayudar al personal a seleccionar e identificar objetivos a los que atacar.
Palantir ha integrado en Maven la tecnología de varias empresas líderes en IA, lo que ha permitido acelerar significativamente algunos procesos.
El teniente general retirado Jack Shanahan, antiguo director del Proyecto Maven, afirmó que la "filosofía" parece ser: "Implantar [la tecnología de IA] lo más rápido posible y de la forma más amplia posible, potencialmente a expensas del rigor y la disciplina de las pruebas y la evaluación".
Sin embargo, el Pentágono sostiene que la adopción de tecnologías de IA es esencial para ganar guerras.
"La velocidad define la victoria en la era de la IA", expuso Emil Michael, subsecretario del Departamento de Defensa de EE.UU., en un comunicado a principios de este año.
El contrato de Google con el Pentágono, firmado a principios de este año, permite el uso de su tecnología de IA para tareas militares clasificadas.
El acuerdo estipula que los modelos de IA de Google pueden utilizarse para "cualquier fin gubernamental legítimo" y "no deben emplearse para la vigilancia masiva interna ni para armas autónomas (incluida la selección de objetivos) sin la supervisión y el control humanos adecuados".
Menos tiempo para los humanos
OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia y la empresa emergente Reflection firmaron contratos similares para permitir el despliegue de tecnología de IA en diversos ámbitos militares, como el transporte, la planificación y las operaciones en el campo de batalla.
A medida que la tecnología evoluciona rápidamente, crece la preocupación por el uso de la IA en los escenarios de guerra.
"La IA reduce el tiempo que tiene un operador para tomar una decisión, porque trabaja mucho más rápido que una persona, y eso es especialmente arriesgado en un entorno de alto estrés", dijo Sarah Shoker, exdirectora del equipo de Geopolítica de OpenAI.
"Cuando se tienen cientos de objetivos seleccionados por IA y poco tiempo, es casi imposible para un operador humano revisar de forma significativa los resultados de la IA en busca de errores".
Empleados de Google le dijeron a la BBC que el personal tiene miedo de pronunciarse sobre la seguridad de la IA y su uso en la guerra porque sus contratos laborales les prohíben criticar públicamente a la empresa.
"En principio, no tengo permitido criticar a Google durante el resto de mi vida", le contó Sofia Liguori a la BBC.
Sin embargo, explica que decidió hacerlo porque cree que "es importante que estas cosas se sepan" y "hablar de hechos no es criticar".
Liguori añadió que en Google "la gente tiene miedo a las represalias y a poner en riesgo su carrera. Sientes que te vigilan, no puedes hablar".
Un empleado actual de Google DeepMind, que prefirió permanecer en el anonimato por temor a represalias, le dijo a la BBC que "muchos empleados motivados que se unieron a la misión original de la empresa podrían marcharse, pero también hay una cantera de personas al inicio de sus carreras que podrían ocupar esos puestos. Podría tratarse de un relevo generacional".
Otro miembro del personal de Google DeepMind, que también prefirió permanecer en el anonimato, señaló: "Muchas personas han abandonado la empresa porque tienen una opinión muy firme sobre esto [cómo ha cambiado Google DeepMind su postura ética]".
"Algunos se resisten, otros piensan: 'Es una gran empresa. ¿Qué esperas que cambie?'", le dijo el empleado a la BBC.
Acuerdos con Israel
Los acuerdos de Google con Israel también han generado controversia.
En 2024, la empresa fue criticada por sus empleados debido a un contrato conjunto con Amazon por valor de US$1.200 millones denominado Proyecto Nimbus, que proporciona al gobierno y al ejército israelíes tecnología de IA e infraestructura de computación en la nube.
Google afirmó entonces que el Proyecto Nimbus "no está dirigido a cargas de trabajo altamente sensibles, clasificadas o militares relacionadas con armamento o servicios de inteligencia".
Además, las capacidades de inteligencia artificial de Israel en la guerra han sido objeto de debate tras su aparición en el reciente documental Naza, que analiza el papel de los sistemas de puntería basados en IA en el bombardeo de la Franja de Gaza, con el consiguiente elevado número de víctimas civiles.
Un ministro del gobierno israelí sostuvo que las afirmaciones presentadas en la película son falsas y distorsionadas.
Andreas Kirsch, exempleado de Google, cree que la tecnología de IA no está lista para ser aplicada en el campo de batalla.
"Los modelos de IA actuales no son lo suficientemente robustos, y no creo que hayan sido entrenados para este tipo de tareas", subrayó.
* Información adicional de Rosa Rahimi
Este artículo fue escrito originalmente en inglés y usamos una herramienta de inteligencia artificial para traducirlo. Un periodista de la BBC revisó el texto antes de su publicación. Más información sobre cómo usamos IA.
Descarga la nueva app del BBC World Service. Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.
También puedes seguirnos en YouTube, Instagram, TikTok, Facebook, X y en nuestro canal de WhatsApp.
Y no olvides suscribirte aquí a nuestro newsletter para recibir cada viernes una selección especial de nuestro mejor contenido.
