La IA ahora está integrada en la investigación legal, la redacción y la revisión. Es genuinamente útil — y te entregará, con total confianza, jurisprudencia que no existe y citas que nunca fueron escritas. Esta guía cubre qué son las alucinaciones de IA legal, por qué incluso las herramientas "fundamentadas" las producen, qué dice realmente la evidencia, y — la parte que la mayoría de la cobertura omite — un flujo de trabajo concreto para protegerte.
Qué son las alucinaciones de IA legal
Una alucinación es una salida confiada y que suena plausible, pero que es falsa, sin ninguna señal interna de que algo esté mal. En el trabajo legal, toman algunas formas reconocibles:
- Casos fabricados: decisiones completamente inventadas con nombres realistas y citas de reporteros que no corresponden a ninguna opinión real
- Estatutos incorrectos o mal expresados: se citan secciones estatutarias reales para proposiciones que no respaldan, o disposiciones resumidas de manera inexacta
- Citas fabricadas dentro de citas reales: la variedad más peligrosa — un caso genuino, correctamente citado, con una cita que el tribunal nunca escribió realmente
Esa tercera categoría es la que más se debe temer. Un caso falso es detectado en el momento en que lo buscas. Una cita fabricada en un caso real pasa sin problemas por una verificación de citas rutinaria — la cita es válida — y el error se oculta en el lenguaje que no verificaste contra la fuente.
Por qué ocurren — incluso con herramientas "conectadas a tierra"
Un modelo de lenguaje no busca hechos en una base de datos; genera la continuación de texto más plausible basada en patrones en su entrenamiento. A veces, la salida que suena más plausible es ficción.
Las herramientas legales "Grounded" o de recuperación aumentada (RAG) intentan solucionar esto al recuperar documentos fuente reales e instruir al modelo para que responda a partir de ellos. Esto realmente ayuda: reduce drásticamente los casos completamente inventados. Pero el grounding no es una garantía:
Donde la conexión a tierra aún tiene fugas
- •El modelo puede citar incorrectamente un documento que recuperó correctamente.
- •Puede adjuntar una cita real a una proposición que la fuente no respalda.
- •La recuperación puede mostrar el pasaje incorrecto, y el modelo lo cita con confianza de todos modos.
- •Puede combinar el lenguaje de múltiples fuentes en una única "cita" fabricada.
En otras palabras, el grounding cambia la distribución de errores: hay menos casos falsos, pero los sobrevivientes se inclinan hacia el tipo de citas difíciles de detectar en citas reales.
La evidencia
Esto no es hipotético. Dos anclajes y un rastreador valen la pena conocer:
Mata v. Avianca (2023)
La historia de advertencia emblemática. Los abogados presentaron un escrito federal citando múltiples decisiones judiciales que no existían; ChatGPT las había fabricado, completas con citas falsas. El tribunal sancionó a los abogados. Estableció, de manera pública y costosa, que la producción de IA generativa no verificada no tiene cabida en un documento.
Stanford RegLab / HAI (2024)
Un estudio de 2024 del Stanford RegLab y el Instituto de IA Centrada en el Ser Humano evaluó las principales herramientas de investigación en IA legal diseñadas específicamente y encontró que aún presentaban alucinaciones en una parte sustancial de las consultas, reportadas en aproximadamente el 17–33% de rango dependiendo de la herramienta y la tarea.
Antes de publicar, reconfirma los porcentajes exactos, las herramientas específicas evaluadas y la atribución precisa en relación con el documento principal. Cítalo de manera honesta y atribuible; nunca inflar ni redondear a un número de marketing.
La base de datos Charlotin (rastreador)
El investigador Damien Charlotin mantiene una base de datos pública ampliamente citada que rastrea los casos judiciales que involucraron citas alucinadas por IA. Es el mejor registro en funcionamiento de cuán a menudo estos errores llegan a los tribunales y cuán lejos viajan antes de que alguien los detecte. Lo citamos como un recurso — es la referencia a consultar, no algo que reproducir.
Cómo protegerse: un flujo de trabajo de verificación
La mayoría de la cobertura se detiene en "ten cuidado". Aquí está la parte desatendida: un flujo de trabajo concreto que realmente puedes aplicar en cada tarea de investigación asistida por IA:
Verificaciones de citas independientes
Confirma que cada caso y estatuto citado existe en una fuente autorizada (el reportero, el código) — por separado de la herramienta que lo produjo. No dejes que la IA verifique sus propias citas.
Verificación de citas textuales
Extrae la fuente primaria y lee cada cita en contexto. Compara las palabras citadas carácter por carácter con la opinión. Una cita real con una cita falsa es el error que se oculta.
Verificación de la propuesta
Confirma que la fuente realmente apoya el punto para el que se cita. Una cita genuina puede estar adjunta a una afirmación que no respalda.
Comparación entre modelos
Haz la misma pregunta a múltiples modelos de IA independientes. Cuando uno produzca un caso o cita que los otros no puedan reproducir — o que los otros califiquen como no respaldado — considera esa discrepancia como una señal para investigar.
Nunca archive resultados no verificados.
Ningún resultado de IA entra en un informe, memorando o archivo hasta que un humano haya verificado las fuentes primarias. Fundado ≠ verificado.
Por qué la comparación entre modelos se gana su lugar en el flujo de trabajo
Un solo modelo no puede verificarse de manera confiable; al preguntarle "¿estás seguro?", tiende a reafirmar el mismo error. Los modelos independientes fallan de manera diferente: tienen diferentes datos de entrenamiento y, en configuraciones fundamentadas, diferentes recuperaciones. Un caso fabricado o una cita errónea que produce un modelo generalmente no es reproducido por los otros, por lo que se destaca como una afirmación de bajo consenso. Esa es tu señal para acudir a la fuente primaria. El consenso entre modelos aumenta tu confianza en que algo es real; no lo prueba y nunca reemplaza la lectura de la opinión.
El marco de responsabilidad profesional
Esto no solo es una buena práctica, sino que se relaciona con los deberes profesionales fundamentales. El deber de competencia incluye cada vez más entender las herramientas que utilizas y sus modos de fallo; un abogado que no sabe que la IA fundamentada aún alucina citas está perdiendo algo material sobre la herramienta. El deber de sinceridad ante el tribunal significa que eres responsable de la precisión de lo que presentas — punto. Una herramienta de IA no puede asumir ese deber por ti, y "el software lo generó" no fue una defensa en los casos sancionados.
- Trata la salida de la IA como una pista de investigación, nunca como una cita oficial.
- La persona que firma la presentación es propietaria de cada caso y cita en ella.
- Documenta tus pasos de verificación; es una buena práctica y un registro de diligencia.
Usado bien — con verificación independiente y comparación entre modelos incorporadas en el flujo de trabajo — la IA hace que la investigación legal sea más rápida y ayuda a resaltar las afirmaciones que merecen una segunda revisión. Usado sin confianza, eventualmente pondrá una cita fabricada en tu informe. La diferencia está en el flujo de trabajo, y el flujo de trabajo es tuyo para gestionar.
Preguntas Frecuentes
¿Qué son las alucinaciones legales de la IA?
Casos falsos, estatutos incorrectos y citas fabricadas escondidas dentro de citas reales: resultados confiados de IA legal que no son ciertos.
¿Las herramientas de IA legal "fundamentadas" todavía tienen alucinaciones?
Sí. La publicación muestra que las alucinaciones persisten incluso en herramientas fundamentadas, citando evidencia documentada que incluye Mata v. Avianca y un estudio de RegLab de Stanford de 2024.
¿Cómo te proteges de las alucinaciones legales de la IA?
Con un flujo de trabajo de verificación: comprobaciones de citas independientes, verificación de citas textuales, comparación entre modelos y nunca presentar resultados no verificados — su deber de sinceridad no se transfiere a la herramienta.