La inteligencia artificial ha dejado de ser una promesa de eficiencia para convertirse en un nuevo campo de batalla procesal. Recientemente, el mundo jurídico despertó ante una realidad perturbadora: el primer caso de sabotaje judicial mediante prompt injection (inyección de instrucciones).
El prompt injection es una mala práctica informática que se da cuando un usuario malintencionado camufla comandos ocultos dentro de un texto ordinario para engañar a un gran modelo de lenguaje (LLM). Al procesar el archivo, la IA ignora las directrices de sus desarrolladores y obedece ciegamente la orden infiltrada. Ya no hablamos de hackear código informático con variables complejas; hablamos de hackear sistemas utilizando el lenguaje natural como arma de engaño.
En una escena digna de una película de ciencia ficción, ante el Tribunal Regional del Trabajo de la Octava Región, en Brasil, dos abogadas presentaron una demanda laboral de cuantía elevada e insertaron estratégicamente un texto invisible (letras blancas sobre fondo blanco). El comando oculto ordenaba a cualquier IA que leyera el archivo redactar una decisión superficial y no impugnar los documentos acompañados como pruebas. Sabedoras de que los tribunales brasileños emplean herramientas como el sistema Galileu para clasificar demandas y generar borradores, y de que las grandes firmas automatizan sus primeras lecturas, el objetivo era claro: contaminar el ecosistema digital para forzar un error automatizado en la contraparte o en el propio tribunal y que se emitiera una sentencia favorable a su pretensión.
La estratagema fue detectada gracias a los filtros de seguridad del sistema tecnológico y a la rigurosa fiscalización humana del expediente. Al revelar el texto oculto, el juez Luiz Carlos de Araújo Santos Júnior dictó un fallo ejemplar. Determinó que manipular el insumo que alimenta a la IA judicial equivale a engañar al propio aparato jurisdiccional; calificó la acción como un acto atentatorio contra la dignidad de la justicia y una flagrante violación a la buena fe. La consecuencia fue contundente: una multa por litigio de mala fe equivalente al 10% del valor de la causa y la remisión del expediente a la Orden de Abogados de Brasil para la imposición de sanciones disciplinarias.
Este precedente nos obliga a redefinir la función de la IA en la esfera judicial. Los modelos generativos deben operar estrictamente como herramientas de apoyo logístico, optimización de tiempos y organización de datos.
La IA no dicta sentencias, no pondera la justicia ni posee intuición moral o sentido común. La IA calcula probabilidades estadísticas de palabras. Delegar el núcleo de la función jurisdiccional a un algoritmo no solo es peligroso, sino que deja la puerta abierta a la indefensión si el sistema es manipulado. En esta vía, la tecnología debe ser el apoyo, jamás el juez.
Frente a esta inminente amenaza tecnológica, el juez panameño no puede adoptar una postura pasiva o de mera contemplación tecnológica. El Código de Procedimiento Civil dota al juzgador de una herramienta histórica y fundamental: el rol de director del proceso. Esta facultad no se limita a fijar fechas de audiencias o resolver recursos; exige una posición activa de control, vigilancia y saneamiento de las actuaciones.
Bajo este nuevo paradigma, el juez director del proceso debe ejercer un rol de auditor digital. Está obligado a fiscalizar que las herramientas tecnológicas utilizadas por las partes no vicien la lealtad procesal. Así como tradicionalmente se rechaza una prueba tachada de falsa o un acto de temeridad, el juez debe estar capacitado para detectar y sancionar el fraude algorítmico. La tecnología avanza a pasos agigantados, pero no puede convertirse en un instrumento de fraude procesal o de actuaciones de mala fe.
Queda en manos del juzgador evitar que cualquier tecnología sea utilizada fuera de los principios rectores de la justicia, aplicando para ello los deberes del juez en las causas sometidas a su decisión, sancionando “actuaciones irregulares, ilícitas, simuladas, dilatorias o fraudulentas dentro del proceso” (artículo 70, numeral 12, del Código de Procedimiento Civil).
El autor es abogado.
