Un escrito citó tres sentencias que no existen: anatomía de una ablucinación
En Mata v. Avianca, un abogado citó seis sentencias que ChatGPT inventó; en Cartagena, un juez se apoyó en la IA sin contrastarla. Dos caras de la misma enfermedad: creerle a la máquina sin verificar.
El 22 de junio de 2023, el juez P. Kevin Castel, de la Corte del Distrito Sur de Nueva York, sancionó a dos abogados y a su firma por presentar, en el caso Mata v. Avianca, un memorial que citaba seis sentencias que no existían. No eran citas imprecisas ni mal transcritas: eran fallos completos —Varghese v. China Southern Airlines, Martinez v. Delta Airlines y cuatro más— inventados de principio a fin por ChatGPT, con su radicado, su ponente y su razonamiento. El abogado, con más de treinta años de ejercicio, alcanzó a preguntarle al programa si los casos eran reales. La máquina respondió que sí, y que podían consultarse en Westlaw y LexisNexis. No estaban en ninguna parte.
¿Quién falló aquí: la herramienta o el abogado? La pregunta no es retórica por casualidad. La herramienta hizo exactamente lo que sabe hacer —producir texto plausible—; el abogado dejó de hacer lo único que el derecho le exige siempre: verificar. A ese lavado de manos intelectual, a esa delegación de la diligencia en una máquina que no responde ante ningún juez, lo llamo ablucinación jurídica.
No es un problema de otras latitudes
Quien crea que esto pasa solo en Nueva York no ha estado mirando. En enero de 2023, en Cartagena, el juez Juan Manuel Padilla García resolvió una tutela a favor de un niño con trastorno del espectro autista —el amparo de su derecho a la salud frente a su EPS— y dejó constancia, en la propia sentencia, de haber consultado a ChatGPT para apoyar su decisión. El juez aclaró que la herramienta no reemplazaba su criterio, y conviene tomarle la palabra. Pero el profesor Juan David Gutiérrez, de la Universidad del Rosario, hizo lo que el rigor exige y casi nadie hace: volvió a formular las mismas preguntas. Obtuvo respuestas distintas.
La inteligencia artificial no exime de la diligencia; la desplaza hacia la verificación. Quien no verifica, no delega: abdica.
Ahora bien, conviene no meter todo en el mismo costal. Una cosa es inventar jurisprudencia —fabricación pura— y otra apoyarse en una respuesta que no se contrasta. Las dos, sin embargo, comparten la misma raíz: se le creyó a la máquina sin comprobar. Esa es la enfermedad. Y tiene cura.
Uso riguroso frente a uso alucinado
| Dimensión | Uso riguroso | Ablucinación |
|---|---|---|
| Fuentes | Se verifican una a una | Se presumen ciertas |
| Citas | Existen y se enlazan | Pueden ser inventadas |
| Responsabilidad | Del profesional | Se delega en la máquina |
| Resultado | Argumento sólido | Riesgo procesal y ético |
El estándar, sin rodeos
El estándar es fácil de enunciar y exigente de cumplir: si una sentencia, una norma o una cifra aparece en un escrito, se verifica con la fuente y se cita. No porque lo diga un reglamento, sino porque de eso depende la seguridad jurídica del cliente y la honra profesional de quien firma. Un abogado responde por cada línea que lleva su nombre; ninguna inteligencia artificial lo hará por él ante un despacho.
Esta publicación nace de una convicción simple: la IA es una herramienta extraordinaria para el abogado que la usa con pericia y verifica, y una trampa para el que la usa con pereza y cree. En Ablucinaciones vamos a usarla del primer modo, a la vista de todos. Cada sentencia, norma o cifra que aparezca en estas páginas llevará su fuente. Lo que no se pueda verificar, no se afirma.
Fuentes: CNN y FindLaw sobre Mata v. Avianca, Inc. (S.D.N.Y., 22 de junio de 2023, juez P. Kevin Castel; sanción a S. Schwartz, P. LoDuca y la firma Levidow, Levidow & Oberman). Sobre el caso colombiano: Semana (Juzgado de Cartagena, juez Juan Manuel Padilla García, enero de 2023).
