En mayo de 2026, el Tercer Juzgado Laboral de Parauapebas, en el estado de Pará, Brasil, detectó un intento de manipulación de sistemas de inteligencia artificial a través de una técnica conocida como prompt injection. Dos abogadas presentaron una demanda laboral que, aunque cumplía con las formalidades procesales, contenía un mensaje oculto que era imperceptible para la lectura humana pero detectable por herramientas automatizadas. Este intento buscaba influir en el análisis del expediente, induciendo a los sistemas a responder de manera superficial.

La herramienta de inteligencia artificial Galileu, utilizada por la justicia laboral brasileña, identificó la estratagema. El juez Luiz Carlos de Araujo Santos Junior consideró que esta conducta vulneraba la buena fe procesal, imponiendo una sanción económica equivalente al diez por ciento del valor de la demanda y remitiendo el caso al órgano disciplinario del Colegio de Abogados de Brasil para evaluar posibles responsabilidades éticas. Este incidente resalta la necesidad de establecer respuestas jurídicas anticipadas frente a los riesgos asociados con el uso de estas tecnologías.

Desafíos de la Inteligencia Artificial en la Justicia

El uso de la inteligencia artificial en la administración pública y en los sistemas de justicia plantea tres dimensiones de análisis: la transformación de la gestión estatal, los riesgos jurídicos asociados y la necesidad de desarrollar respuestas normativas que preserven la integridad institucional. La incorporación de estas tecnologías representa una transformación significativa, mejorando la eficiencia y capacidad de análisis, aunque también presenta desafíos para proteger los principios del Estado de Derecho.

Más allá de la sanción impuesta en el caso brasileño, este precedente subraya la importancia de garantizar que las herramientas tecnológicas operen bajo estándares de integridad y supervisión. Las instrucciones ocultas que alteran el funcionamiento de sistemas automatizados comprometen principios esenciales como la seguridad jurídica y el debido proceso.

Desde la perspectiva del Derecho Administrativo Dominicano, este caso evidencia la necesidad de fortalecer principios como la juridicidad, transparencia y responsabilidad, tal como lo establece la Constitución y la Ley núm. 107-13. La transformación digital del Estado debe incluir mecanismos de control que abarquen no solo a los servidores públicos, sino también a los sistemas tecnológicos que intervienen en la toma de decisiones.

Lecciones Internacionales y Avances en República Dominicana

La experiencia comparada muestra que la regulación suele desarrollarse más lentamente que la innovación, creando vulnerabilidades institucionales. En Europa, por ejemplo, el Consejo General del Poder Judicial de España aprobó la Instrucción 2/2026 sobre el uso de inteligencia artificial en la actividad jurisdiccional, mientras que el Reglamento de Inteligencia Artificial de la Unión Europea establece estándares de transparencia y supervisión.

Para la República Dominicana, el caso brasileño es relevante, ya que el país ha avanzado en transformación digital y gobierno electrónico. Sin embargo, es crucial contar con un marco normativo que aborde los desafíos emergentes. La Oficina Gubernamental de Tecnologías de la Información y Comunicación (OGTIC) ha liderado la formulación de la Estrategia Nacional de Inteligencia Artificial (ENIA) y ha promovido programas de formación tecnológica.

A pesar de estos avances, persiste el reto de desarrollar protocolos específicos para el uso de inteligencia artificial en la administración pública y el sistema judicial. Esto incluye implementar mecanismos para detectar contenido oculto, capacitar a los servidores públicos y establecer responsabilidades claras ante intentos de manipulación de sistemas algorítmicos.

En conclusión, el caso brasileño de prompt injection es una advertencia sobre los riesgos en la transformación digital del Estado y evidencia que la incorporación de sistemas de inteligencia artificial en la gestión pública requiere una gobernanza sólida para proteger el interés general y los derechos fundamentales.