El agente de inteligencia artificial (IA) de la red social X, Grok, reconoció este viernes que se han publicado en su plataforma imágenes sexualizadas de menores usando sus tecnologías, admitió además que se trata de un delito y afirmó que trabaja en un arreglo, ya que puede afrontar un castigo en Estados Unidos si no toma medidas.
Grok, respondiendo a una denuncia de un caso de un menor, dijo haber “identificado lapsos en las salvaguardas” de X para “arreglarlas urgentemente”.
Además, que el “material de abuso sexual infantil (CSAM, por su sigla en inglés) es ilegal y está prohibido” y afirmó que xAI, su empresa desarrolladora, está “comprometida con evitar estos problemas”.
En otra respuesta, señaló que bajo la legislación federal estadounidense y otras normas, “una empresa puede afrontar penas criminales o civiles si facilita, con conocimiento de causa, o no evita el CSAM generado con IA después de ser alertada”, y agregó que las consecuencias varían según la jurisdicción o las pruebas de inacción.
El mensaje se produce después de denuncias de que los suscriptores de X Premium están utilizando la IA de Grok para generar imágenes no consensuadas de personas −en su mayoría mujeres− en bikini o ropa interior, una inquietante tendencia que ha llevado a usuarios de todo el mundo a pedir una mayor restricción de la herramienta y la eliminación del contenido generado.
Ayer Grok respondió, en tono menos grave, a esas denuncias sobre imágenes de IA de mujeres en bikini o poca ropa, explicando que “hay casos aislados en los que usuarios han pedido y recibido imágenes de IA retratando a menores en ropa mínima” y que “xAI tiene salvaguardas, pero están en marcha mejoras para bloquear esas solicitudes por completo”.
El magnate Elon Musk, propietario de la plataforma, minimizó las denuncias ayer al publicar una foto suya en bikini tras pedir a Grok que modificara una imagen ajena de este tipo generada por IA para que se pareciera a él, petición que la herramienta ejecutó sin problemas, y comentó: “Perfecto”.