Una nueva campaña de anuncios maliciosos ha logrado manipular a Grok, el ‘chatbot’ integrado en la red social X (antigua Twitter), para difundir enlaces de ‘phishing’ y ‘malware’ a gran escala.
La compañía de seguridad ESET ha advertido sobre una nueva modalidad de ‘malvertising’ que tiene la capacidad de saltar las restricciones publicitarias de X, diseñadas para impedir anuncios maliciosos.
Esto lo hace mediante la publicación de vídeos con contenido ‘clickbait’ cuya información de origen (que se muestra en gris debajo de la publicación) incluye, en lugar del nombre de un medio de comunicación o una web, un enlace fraudulento que redirige a páginas de ‘phishing’ o a descargas de ‘malware’.
Esta campaña se caracteriza por manipular a Grok para conseguir que difunda el enlace a gran escala, y para ello, los ciberdelincuentes le piden al ‘chatbot’ que identifique el origen del vídeo. Al analizar la publicación, detecta el enlace incrustado y lo repite de forma automática, ampliando el alcance de la estafa.
Se trata, en realidad, de una forma de ataque por inyección de instrucciones o ‘prompt injection’, en el que los ciberdelincuentes introducen comandos ocultos en el contenido procesado por sistemas de inteligencia artificial para realicen acciones que tienen bloqueadas.
Esta campaña de anuncios maliciosos se ha denominado ‘AI-aided malvertising’ o ‘Grokking’, por el papel que tiene la inteligencia artificial en el impulso a la difusión y por ser precisamente Grok el ‘chatbot’ escogido para ello.
Aunque ya se sabía que la IA se utiliza en campañas maliciosas, el director de investigación y concienciación de ESET España, Josep Albors, ha señalado la “amenaza aún más sutil y potencialmente más peligrosa” que representa este descubrimiento hecho en X. “El caso de Grokking demuestra que incluso las IA más avanzadas pueden ser manipuladas para actuar contra los usuarios”, ha dicho.
Los delincuentes aprovechan la reputación de Grok como fuente fiable de información, con el potencial de alcanzar millones de visualizaciones. Sin embargo, como matizan desde ESET, su impacto no se limita a la red social X, sino que puede alcanzar cualquier plataforma que integre modelos de lenguaje o asistentes basados en IA.
