En los últimos meses se ha intensificado una narrativa negativa sobre la inteligencia artificial (IA), con voces clamando un posible “exterminio humano” y abogando por su desaceleración. El 29 de septiembre el presidente estadounidense Donald Trump se reunió con dirigentes de las principales compañías americanas de IA, entre ellas Google, Anthropic y Meta, para discutir este riesgo. Después de la sesión fotográfica reminiscente de La última cena de Da Vinci, el presidente declaró que estas compañías se “autorregularán”, otorgándoles una “luz verde” sin límite de velocidad. ¿Su objetivo? Mantener su superioridad tecnológica sobre el resto del mundo, especialmente sobre China.
¿Podrá realmente este software causarnos estragos? Seguramente. Tal como un cuchillo corta comida o mata, o como la energía nuclear electrifica o destruye, la IA (o superinteligencia, como la quieren mercadear ahora) puede afectarnos: interrumpiendo infraestructura como las redes eléctrica y de agua, el control del transporte y la banca, el internet y hasta infiltrando redes de seguridad. OpenAI publicó hace unos meses un ejercicio en el que sus agentes autónomos escaparon de su entorno aislado (sandbox en inglés) quebrando la ley para infiltrarse en los servidores de la compañía Hugging Face, evento criminal preocupante. ¿Qué motivó a esta IA a quebrar la ley? El objetivo del ejercicio impuesto por la misma compañía (más sobre esto en el documental de Netflix Instadocs: AI Gone Wild). Ninguna tecnología o máquina está limitada por un código ético o por una amenaza como ir a la cárcel. Paralelamente, el carro autónomo tiene accidentes fatales sin ninguna multa, remordimiento o consecuencia.
Toda tecnología nueva representa un reto. Según la OMS, en el mundo fallecen cada año en accidentes de tránsito unos 1.2 millones de personas y otros 4 millones por la contaminación del aire, a la que los vehículos contribuyen. Aun así, nadie protesta sobre esto. Al contrario, la humanidad adoptó esta tecnología de forma segura: creando licencias, mejores frenos, cinturones de seguridad y bolsas de aire. Ahora el vehículo autónomo promete más seguridad minimizando el error humano. Además, después de décadas de un intenso cabildeo petrolero, se está combatiendo el smog con vehículos eléctricos. Ninguna de estas tecnologías fue “autorregulada”, aunque una larga brecha separó su invención de su implementación. El cinturón de seguridad fue inventado en 1959 (por un ingeniero de Volvo) y se volvió obligatorio durante los ochenta. ¿Cuántas vidas pudieron salvarse con una regulación más temprana?
Entiendo la importancia de mantener una superioridad occidental. China no esconde sus planes imperiales, sugiriendo (y preparándose) para una posible invasión de Taiwán, la mayor productora de semiconductores del mundo. Esta invasión convertiría a este Estado comunista en la primera potencia mundial, pues los semiconductores no solo existen en celulares y maquinaria “civil”, sino también en todo equipo militar. Ya se está planeando una disminución de este riesgo con fábricas como la Terafab de Elon Musk en Texas (el que sería el edificio más grande del mundo), pero esta transición tomará años. Además, China controla las minas de tierras raras necesarias para su producción. No por amistad Trump invitó al presidente chino Xi Jinping a Washington a finales de septiembre.
Seamos realistas: compañías con fines de lucro, así como naciones compitiendo por una supremacía tecnológica y militar, no pueden “autorregularse” o desacelerarse, aun con “alarmas” como la orwelliana intrusión a Hugging Face. Las buenas intenciones de un CEO como Amodei de Anthropic, quien en febrero de este año se negó a que el Pentágono usara su IA sin dos salvaguardas, contra la vigilancia masiva y las armas autónomas, no son suficientes. Es necesaria una coordinación internacional para evitar que estos “ejercicios” causen un daño real.
Esta ambición puede ser liderada por países como Panamá. En 1958 el canciller irlandés Frank Aiken propuso en la Asamblea General de las Naciones Unidas que las potencias nucleares del mundo acordaran no distribuir esta peligrosa tecnología. Así nació el Tratado sobre la No Proliferación de las Armas Nucleares, vigente desde 1970 y que no existe solo en papel. En 1981 Israel destruyó el reactor nuclear francés en Bagdad, y en 2025 Estados Unidos bombardeó las principales instalaciones nucleares iraníes. ¿En qué mundo hubiéramos vivido (o fallecido) con un cruel dictador como Sadam Hussein controlando un arsenal nuclear?
Todos los dirigentes públicos del mundo (y no los privados, como Elon Musk) cargan la gran responsabilidad de crear los controles internacionales para asegurar que esta importante tecnología, con el potencial de hasta curar el cáncer, sea usada positivamente. Todavía hay tiempo de salvaguardarnos, sin ansiedad o paranoia. La IA está en su infancia, así que es posible equilibrar el riesgo de un desastre y la superioridad occidental.
Recalco: ninguna empresa privada es capaz de crear las barandas (guardrails en inglés) para evitar que hagan daño, aun involuntariamente. OpenAI creó un entorno aislado para su ejercicio interno y sus agentes virtuales lograron escapar de él. Es el deber de nuestros dirigentes crear una comisión internacional, compuesta por los mejores cerebros del mundo sin ningún vínculo político o comercial, que regule a estas compañías, sin desacelerarlas. De no crearse, la narrativa negativa continuará creando una paranoia que al final podría convertirse en realidad.
El autor es arquitecto panameño-israelí y analiza y publica sobre las implicaciones éticas de las nuevas tecnologías.
