OpenAI ha anunciado que reforzará las medidas de seguridad en sus modelos junto con expertos y médicos, al tiempo que incorporará un conjunto de controles parentales para supervisar la actividad de los menores con ChatGPT.
La compañía de tecnología asegura que pretende acompañar el progreso en IA con “una profunda experiencia en bienestar y salud mental”, y para ello ha establecido un Consejo de expertos sobre bienestar e inteligencia artificial y una Red Global de Médicos, que trabajarán conjuntamente.
El Consejo estará centrado en diseñar las directrices, prioridades y medidas de protección que permitirán descubrir “cómo la IA puede contribuir al bienestar de las personas y ayudarlas a prosperar”, según explica OpenAI en un comunicado compartido en su blog oficial.
La Red Global de Médicos, por su parte, ha ayudado a definir el comportamiento de los modelos de IA “en contextos de salud mental” y en el futuro también lo hará “en áreas como trastornos alimentarios, consumo de sustancias y salud adolescente”.
El trabajo con expertos se reforzará próximamente con un nuevo enrutador en tiempo real que elegirá el modelo más adecuado según el contexto de la conversación e independientemente del modelo inicialmente elegido por el usuario.
De esta forma, si detecta que la conversación vira hacia temas sensibles, que pueden enmarcarse en una depresión o sentimiento de angustia, pasará a ofrecer un modelo de pensamiento, como GPT-5.
Esto se debe a que, según sus pruebas, los modelos de pensamiento como GPT-5 y el o3, dedican más tiempo a pensar y razonar la respuesta, por lo que pueden ofrecer medidas más beneficiosas a los usuarios.
CONTROLES PARENTALES
Estas medidas se complementan con nuevos controles parentales que ayudarán a administrar el uso que hacen los adolescentes de ChatGPT.
Para empezar, podrán vincular cuentas y controlar la forma en que el ‘chatbot’ responde con reglas de comportamientos, que estarán activadas por defecto.
Los padres también podrán gestionar las funciones que complementan la experiencia de ChatGPT, para desactivar memoria y el historial de ‘chat’. Y recibirán una notificación si, a partir de la conversación el menor, el ‘chatbot’ detecta que “se encuentra en un momento de angustia aguda”.
Recientemente, OpenAI anunció cambios en sus modelos de inteligencia artificial para que identifiquen mejor situaciones de crisis mental y emocional durante las conversaciones con ChatGPT, con nuevas salvaguardias, bloqueos de contenido más eficaces y agilizando el contacto con servicios de ayuda y de familiares.
Estas actuaciones siguieron a la denuncia presentada contra la empresa por Matt y Maria Raine, los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril, debido al papel que jugó ChatGPT en este suceso.
