Del texto a la decisión: cómo razona la IA sobre lo legal

Hay una coincidencia que vale la pena tomarse en serio: tanto el derecho como los modelos de lenguaje son, en su núcleo, texto. Normas, fallos, contratos y dictámenes son lenguaje; los modelos de IA son máquinas de lenguaje. Esa cercanía explica por qué la IA es tan útil en lo legal —y por qué hay que entender bien dónde termina esa utilidad.

Lo que la IA hace bien

La IA es excelente trazando caminos: conectar una norma con un fallo, ese fallo con un precedente, y mostrar la cadena de un argumento. No reemplaza el razonamiento del abogado, pero lo hace visible y lo acelera. Frente a una caja negra que escupe una respuesta, lo valioso es ver el porqué: las fuentes, los pasos, los puntos débiles.

El riesgo no es teórico: Mata v. Avianca

En 2023, un abogado de Nueva York presentó ante un tribunal federal un escrito con seis fallos que no existían: ChatGPT los había inventado y, al ser consultado, “confirmó” que eran reales y que podían encontrarse en Westlaw y LexisNexis. El juez P. Kevin Castel sancionó a los abogados y su firma con USD 5.000 por actuar de mala fe. El caso —Mata v. Avianca— se volvió el ejemplo global de lo que pasa cuando se confía sin verificar.

No es un caso aislado de descuido: es un rasgo de la herramienta. El estudio “Large Legal Fictions” de Stanford (2024) midió que los modelos de propósito general alucinan al menos el 58% de las veces en preguntas legales específicas y verificables (desde 58% en GPT-4 hasta 88% en otros modelos). Un modelo de lenguaje no “sabe” derecho: predice texto plausible. Por eso la solución no es prohibirlo, sino anclarlo a fuentes y dejar la decisión —y la verificación— en manos humanas.

La predicción no es profecía

Se habla mucho de “predecir” resultados judiciales. Conviene ser sobrio, y la ley ya lo fue. Francia prohibió en 2019 (Artículo 33 de la ley 2019-222) analizar las decisiones de jueces para predecir su comportamiento, con penas de hasta cinco años de cárcel. En EE.UU., la investigación de ProPublica sobre el algoritmo de reincidencia COMPAS (2016) mostró sesgo racial: marcaba erróneamente como “alto riesgo” al 44,9% de los acusados negros que no reincidieron, frente al 23,5% de los blancos. Y el Reglamento de IA de la UE (2024) clasifica como “alto riesgo” los sistemas que asisten a una autoridad judicial a interpretar los hechos y aplicar la ley.

§Dame los hechos y te daré el derecho.

Da mihi factum, dabo tibi ius

Cómo usar la IA en el razonamiento sin perder el rumbo

• Anclar todo a fuentes reales y verificables, con enlace al documento.
• Exigir que el sistema muestre su cadena de razonamiento, no solo la conclusión.
• Tratar la predicción como una estimación de probabilidad, nunca como un veredicto.
• Verificar antes de firmar: el deber de competencia (ABA, 2024) no es delegable a una máquina.

El objetivo no es una máquina que reemplace al jurista, sino un jurista con una máquina que le muestra el terreno más rápido y más completo. Del texto a la decisión, el último tramo —el que importa— sigue siendo humano.