El nuevo riesgo de la inteligencia artificial en el sistema judicial: el “prompt injection”, una forma de defraudar el proceso

Por años, los abogados aprendimos que un escrito judicial debía convencer principalmente a una persona: el juez. Toda la técnica de litigación, redacción y argumentación jurídica estaba orientada a cómo un ser humano leía, interpretaba y valoraba un expediente.

Pero eso está cambiando.

El reciente caso ocurrido en Brasil —considerado uno de los primeros grandes antecedentes de “prompt injection” dentro de un sistema judicial— ha dejado algo muy claro: la inteligencia artificial ya empezó a intervenir en el ecosistema jurisdiccional de manera mucho más profunda de lo que muchos imaginaban.

En dicho caso, dos abogadas fueron sancionadas luego de insertar instrucciones ocultas dentro de una demanda judicial. El texto, colocado en letras blancas sobre fondo blanco, estaba dirigido no al juez humano, sino a la inteligencia artificial utilizada por el tribunal laboral brasileño. El mensaje buscaba influir en la forma en que el sistema analizaba o resumía el expediente.

Más allá de la sanción concreta, el caso revela algo mucho más importante:

La litigación moderna ha empezado a transformarse.

La IA judicial ya no es un tema futurista

Durante mucho tiempo se pensó que la inteligencia artificial en el Poder Judicial serviría únicamente para temas administrativos como los siguientes:

  • Ordenar expedientes.
  • Clasificar documentos.
  • Generar cargos.
  • Distribuir causas.
  • Acelerar notificaciones.

Sin embargo, países como Brasil ya utilizan sistemas capaces de:

  • Resumir expedientes.
  • Identificar precedentes.
  • Sugerir líneas jurisprudenciales.
  • Analizar demandas repetitivas.
  • Hasta proyectar borradores de resoluciones.

En el Perú, el Poder Judicial ha iniciado el desarrollo de herramientas como CURIA, orientadas justamente al apoyo en análisis jurídico y optimización de decisiones judiciales.

Formalmente, la decisión sigue siendo humana. Pero materialmente, la inteligencia artificial ya empezó a participar en la construcción del entorno cognitivo sobre el cual el juez trabaja. Y eso cambia completamente las reglas de la litigación.

Ya no litigamos únicamente para el juez

Este es probablemente el cambio más importante.

Antes, el abogado preparaba su caso pensando en:

  • La percepción del magistrado.
  • La oralidad.
  • La valoración humana de la prueba.
  • La coherencia narrativa.
  • La estrategia procesal frente a la contraparte.

Hoy aparece un nuevo actor silencioso:

El sistema de inteligencia artificial, aunque no dicte sentencia por sí mismo, sí puede:

  • Resumir escritos.
  • Priorizar información.
  • Identificar patrones.
  • Agrupar casos.
  • Recomendar jurisprudencia.
  • Extraer conceptos.
  • Sugerir líneas argumentativas.

En otras palabras:

El expediente ya no es leído exclusivamente por personas, sino también es procesado por modelos algorítmicos.

El nuevo escenario que nos encontramos es con el escenario de litigación híbrida.

Esto nos lleva a un fenómeno nuevo:

El abogado moderno empieza a litigar simultáneamente ante:

  • El juez humano,
  • La estructura informática del tribunal.
  • Los motores de búsqueda jurídica.
  • Los sistemas de clasificación.
  • Los asistentes generativos.
  • Los algoritmos de extracción de información.

La claridad documental deja entonces de ser únicamente una virtud estética o técnica.

Ahora también se convierte en un elemento de legibilidad algorítmica.

Un escrito mal estructurado puede afectar no solo la comprensión del juez, sino también:

  • Cómo la IA resume el caso.
  • Qué conceptos detecta.
  • Qué precedentes relaciona.
  • Qué hechos considera centrales.

El riesgo de la automatización invisible

Aquí aparece un tema delicado, la inteligencia artificial no tiene inmediación.

No percibe:

  • Lenguaje corporal.
  • Contradicciones vivas.
  • Tensión del interrogatorio.
  • Credibilidad humana.
  • Contexto estratégico del litigio.

Puede resumir información, pero no puede reemplazar completamente la valoración jurisdiccional propia de un proceso judicial.

El riesgo entonces no es solamente tecnológico sino también jurídico, porque mientras más dependan los sistemas judiciales de herramientas automatizadas, mayor será el peligro de:

  • Motivaciones aparentes.
  • Uniformización acrítica.
  • Sesgos algorítmicos.
  • Simplificación excesiva de casos complejos.
  • Validación automática de conclusiones preliminares.

Y precisamente por eso el caso brasileño fue tan importante: porque mostró que los litigantes ya entendieron que la IA sí influye dentro del proceso judicial.

El abogado del futuro no solo dominará derecho

Tenemos que reconocer que la transformación ya empezó, así como en algún momento nosotros los abogados tuvimos que adaptarnos:

  • Al expediente digital.
  • A las audiencias virtuales.
  • A la firma electrónica.
  • A la oralidad moderna.

Ahora deberá comprender cómo funcionan los sistemas de inteligencia artificial aplicados al derecho. No con el fin de poder reemplazar el razonamiento jurídico, sino para poder entender el nuevo entorno en el cual se desarrolla la litigación.

Porque el expediente contemporáneo ya no circula únicamente entre personas, sino también circula entre algoritmos. Y el abogado es quien debe comprender ya que si de lo contrario, no llega a comprenderlo, probablemente seguirá litigando como si aún estuviera en un sistema exclusivamente humano, cuando en realidad el ecosistema judicial ya comenzó a cambiar.

 

David Torres Barreto
Abogado experto en IA

Publicar un comentario

0 Comentarios