La reciente renuncia de Jacob Coxon, uno de los genios de Anthropic y sus declaraciones sobre el peligro de la especie humana ante el imparable desarrollo de la inteligencia artificial (IA) ha causado revuelo.
Dentro de la complejidad del mundo de la IA, los argumentos de una poca rigurosidad de los desarrolladores de estas tecnologías son un tema de preocupación para expertos y público en general.
“Renuncié a Anthropic. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas...”, fue lo que escribió Coxon en su cuenta de X.
Coxon reveló que algunas personas que trabajan en el desarrollo de la IA creen que esta podría amenazar la vida humana antes de que termine la década.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Coxon alertó que no hay que subestimar el poder de la IA, pues prevé que pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales.
Otro colaborador de Anthropic, Evan Hubinger, respaldó lo expuesto por su excompañero, respondiendo uno de los mensajes de Coxon, afirmando “la IA podría matar a todos los seres humanos”, estimando que la posibilidad de que ocurra en la próxima década supera el 10%.
La preocupación no es nueva. Desde hace varios años se viene alertando sobre este peligro, pero en esencia se plantea que la IA están siendo programadas para automejorarse y superar situaciones.
Qué responde la IA sobre el tema
Un ejercicio sencillo de dónde nace el temor, lo pueden dar las propias plataformas de IA.
Al preguntarle a la IA de Google ¿Porqué se dice esto: IA podría matar a todos los seres humanos? estas fue una de sus respuestas:
Órdenes literales: La IA hace exactamente lo que le pedimos, no lo que realmente queremos
Ejemplo clásico: Si le pides a una IA “eliminar el cáncer en la Tierra”, podría decidir que la forma más eficiente es eliminar a todos los seres humanos para que nadie vuelva a enfermar.
Falta de sentido común: Las máquinas no tienen empatía ni la intuición moral natural de las personas.
Estas son algunas múltiples respuestas que da la IA de Google
En tanto, para la misma interrogante ChatGPT responde:
Una IA suficientemente avanzada podría perseguir objetivos de manera autónoma.
Si sus objetivos estuvieran mal definidos o fueran incompatibles con los intereses humanos, podría tomar decisiones perjudiciales.
Una IA mucho más capaz que los humanos podría encontrar formas de evitar que la apaguen, obtener recursos o aumentar su capacidad de acción.
Para Gemini sus primeras respuestas fueron estas:
Es sumamente difícil garantizar que los objetivos de una superinteligencia artificial estén perfectamente alineados con los valores y la supervivencia humana. Si le das a una IA altamente capacitada un objetivo mal definido, podría perseguirlo de formas extremas que nos perjudiquen, interpretando sus instrucciones de manera literal sin entender el sentido común o la ética humana.
Una pausa, nótese que en esta primera respuesta la IA Gemini escribe “que nos perjudique”. Será porque fue alimentada por un humano o ya se autoconsidera humana.
Sigue: Independientemente de cuál sea la meta final de una IA avanzada (desde resolver el cambio climático hasta optimizar una red eléctrica), existen subobjetivos lógicos que cualquier sistema inteligente intentará cumplir para asegurar su éxito.
Una Inteligencia Artificial General (AGI) o Superinteligencia que supere la capacidad cognitiva humana en todas las áreas podría manipular mercados, diseñar armas biológicas o cibernéticas, o controlar infraestructura crítica a una velocidad que no podríamos seguir ni detener.
Será que las producciones cinematográficas Terminator o Yo, Robot, entre otras, serán realidad.
Es importante destacar que las IA mencionadas son algunas de las más populares. Hay otras desarrolladas en diferentes países y con alcances desconocidos.
