Darío Brooks - BBC News Mundo
El papa León XIV publicó el lunes su primera encíclica, uno de los documentos más importantes que revela la doctrina de un pontífice sobre un tema religioso o social, y lo hizo con una presentación personal y acompañado de invitados que no son parte de la Iglesia, algo que llamó la atención.
En Magnifica Humanitas (“Magnífica Humanidad”), León XIV hace una advertencia al mundo sobre las posibilidades y los riesgos que representan los modelos de inteligencia artificial (IA), en particular si no se sustentan en una base ética en beneficio colectivo de la humanidad.
Uno de los riesgos, señala, es que tiene el potencial de desplazar masivamente a muchos trabajadores a nivel mundial.
Entre los invitados a la presentación estaba Christopher Olah, un joven canadiense de 33 años que en la última década se ha vuelto conocido en el mundo tecnológico por su amplio trabajo para desentrañar la compleja forma en la que funcionan los LLM (Large Language Model, o Modelo de Lenguaje Grande).
Esos LLM son el “cerebro” de chatbots como Claude, que ayudó a crear el propio Olah, y como ChatGPT, de OpenAI; Gemini, de Google; Copilot, de Microsoft; Grok, de SpaceXAI; o DeepSeek, de High-Flyer.
Todos ellos han estado aumentando su capacidad a un ritmo acelerado. pero aún son una tecnología con cierto grado de descontrol y enigma, incluso entre los propios desarrolladores.
“Seguimos encontrando cosas misteriosas, incluso inquietantes. Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspección. No sé qué significa eso, pero creo que requiere un discernimiento constante”, dijo Olah en El Vaticano, luego de la presentación de la encíclica del Papa.
Y la incertidumbre de su avance, sumado a que están en manos de unas pocas firmas privadas con intereses propios, plantea un debate en el que, a juicio de León XIV, debería participar todo el mundo y no solo unos cuantos líderes tecnológicos.
Federico Peinado, profesor en el departamento de software e IA de la Universidad Complutense de Madrid, señala a BBC Mundo que estos dilemas es lo que curiosamente “une dos mundos aparentemente tan distantes”, el de la Iglesia católica con la IA.
“Esto habla de un Papa que es muy consciente del tiempo en el que vive: estamos ante una revolución con la inteligencia artificial y mucha gente está preocupada por las posibles consecuencias”, apunta.
Según Olah, el mundo necesita de “críticos competentes que les digan a los laboratorios cuándo se equivocan”, así como “voces morales que no se dejen doblegar por los incentivos”, según señaló en la presentación de la encíclica en El Vaticano.
¿Pero quién es ese joven que ha tomado la bandera de desentrañar los misterios de la IA y que no deja de reconocer que él mismo es parte de estas empresas en conflicto de intereses?
Su entrada a la escena de la IA
La preparación y trayectoria de Olah ha sido poco convencional para el mundo tecnológico mismo.
Nació en Toronto, Canadá, y se educó en el exclusivo colegio privado The Abelard School, donde desde joven demostró gran capacidad.
Según sitios especializados, Olah nunca obtuvo un título universitario de una institución en particular, pues fue más autodidacta que alumno. Presentó una serie de exámenes del sistema AP Scholar para acreditar sus conocimientos.
Con apenas 18 años, ingresó al equipo de Google Brain, donde realizó investigaciones sobre redes neuronales cuando estaban en desarrollo los LLM.
Ahí fue coautor de un documento que ha sido citado como pionero en la materia, Inceptionism: Going deeper into neural networks (“Incepcionismo: una inmersión en las redes neuronales”), que en términos generales desentrañaba cómo la IA entiende las imágenes.
Al interior del lenguaje de los LLM, no hay una “palabra” o código únicos para identificar, por ejemplo, un cable para cargar un celular, pero hay algoritmos que se unen en las redes neuronales para llegar a eso.
Y el trabajo de Olah y sus colegas Alexander Mordvintsev y Mike Tyka fue considerado como una de las primeras formas de “ver” cómo interactúan esas redes neuronales.
En 2018 fue reclutado por OpenAI, la empresa que ya trabajaba en el modelo que daría vida al popular ChatGPT de la actualidad y donde el joven investigador continuó su análisis de los circuitos neuronales.
Eso hasta 2020, cuando se produjo una gran separación dentro de esa firma
Ese año, un grupo de especialistas liderados por los hermanos Dario y Daniela Amonei se separaron tras un desacuerdo sobre el rumbo que estaba tomando OpenAI, a cuya dirección acusaban de priorizar un modelo comercial de IA más que el desarrollo controlado y seguro de tal tecnología.
Olah se sumó al grupo de Amonei para fundar su firma, Anthropic, siendo el joven investigador uno de los más influyentes en la investigación de cómo los LLM construyen sus circuitos neuronales artificiales.
La “Constitución” de la IA
El trabajo de exploración de Olah al interior de la IA lo llevó a ser incluido en la lista de los más influyentes en ese campo por la revista Time.
“Eso es milagroso, pero también plantea retos para la seguridad. Si no sabes cómo funciona un nuevo sistema tan potente, ¿cómo puedes estar seguro de que no es peligroso? Aquí entra Chris Olah”, destacaba la publicación en 2024.
Y es que Olah ha desarrollado con otros la idea de elaborar una “Constitución de la IA”, explica Peinado, que consistiría en “inculcar” a los LLM principios inquebrantables que respondan al beneficio humano colectivo.
De la mano de esto está la idea de la “interpretabilidad mecánica”.
“Esto viene a ser lo siguiente: nosotros estábamos creando inteligencias artificiales sin saber lo que había dentro. Básicamente teníamos la capacidad de crearlas, pero se cultivaban -como dice el Papa en la encíclica- en lugar de crearse”, explica Peinado.
“Se las somete a todo internet y ellas solas aprenden -estoy simplificando mucho-, pero es algo así: no sé exactamente a qué se están dedicando las neuronas artificiales que tiene, pero funciona, que es lo asombroso del asunto”, prosigue
“Y lo que quiere hacer Chris Olah es entenderlo. Es como el estudio del cerebro humano, que es demasiado complejo. Y no es algo moral, es científico saber para qué sirven. Y a él le parece que es algo que tenemos que conseguir entender”.
En su trabajo con Claude, Olah ha identificado esas capas neuronales que trabajan en conjunto en algunas áreas.
“Es un análisis parecido al de la neurociencia aplicada al cerebro humano: no lo conocemos a la perfección, no tenemos el mapa neurona a neurona, pero sí sabemos qué regiones sirven para qué funciones”, añade Peinado.
Olah no es el único experto en la materia, pero es uno de los que más ha avanzado en su estudio, y eso explicaría su participación en la presentación de la encíclica.
¿Quién ocupa el vacío?
En su participación en El Vaticano, Olah destacó tres áreas que, según él, requieren atención urgente para controlar a la IA y que no genere efectos adversos generalizados:
abordar el riesgo de grandes pérdidas de puestos de trabajo;
garantizar que los beneficios de la IA lleguen a todo el mundo;
controlar el comportamiento de los LLM.
“El desarrollo de la IA se concentra en un puñado de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la IA se compartan a nivel mundial?”, preguntó Olah a la audiencia en El Vaticano, además de añadir que grandes empresas y gobiernos están recibiendo presiones.
Anthropic ya entró en disputa con el gobierno de Donald Trump hace unos meses por negarse a poner su LLM a disposición del Departamento de Defensa para sus objetivos militares.
Para algunos críticos, es conflictivo que Anthropic sea juez y parte en el destino de la IA, pero otros consideran que es la única firma que se ha tomado en serio esto.
“La ética también es un ingrediente de marketing, porque a mucha gente le cuesta creer que haya una preocupación ética en las grandes empresas, cuando parece que todo se mueve por el dinero, que es precisamente lo que critica la encíclica. La pregunta es: ¿qué parte es real y qué parte es posicionamiento?“, plantea Peinado.
Para el experto, “el problema de fondo es que los gobiernos han perdido el liderazgo en este tema. Todo esto lo están llevando empresas privadas, estadounidenses o chinas (...) Y Anthropic ha cogido la bandera de la ética ocupando ese vacío que nadie más ha querido tomar”.
El propio Christopher Olah reconoce que es parte de estas empresas, pero dice que está involucrado en un debate no solo con la Iglesia católica, sino con otras religiones con las que ha tenido diálogo.
La pregunta de fondo -considera Peinado- es si deben ser las propias empresas quienes se autocensuren y sean responsables, o si esa responsabilidad corresponde a los gobiernos y a los usuarios.
“Siendo algo que va a ser tan importante a nivel mundial, lo razonable sería que existiera algún organismo internacional que estableciera una ética común aplicable a todas las inteligencias artificiales”, expone.
“Como lo ha hecho la Iglesia, todos los organismos -la Unión Europea, la ONU, los gobiernos- tienen que ponerse muy en serio con esto”.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
Por qué los chatbots de IA pueden estar volviéndote más tonto
Por qué las grandes compañías de IA quieren que les tengamos miedo
