El sesgo que desactiva al abogado: por qué la pereza no explica las citas inventadas

El 22 de mayo de 2026, Scientific American publicó un ensayo de Steven Melendez con una premisa incómoda: los abogados que citan fallos inexistentes no son, en su mayoría, perezosos. Son profesionales entrenados que confían en un texto falso porque suena verosímil. El reportaje se apoya en la base de datos de Damien Charlotin (HEC Paris), que en tres años ha documentado más de 1.400 decisiones judiciales en el mundo donde un juez tropezó con material alucinado por IA. La cifra crece varios casos por día. Si la explicación fuera la flojera, no afectaría también a periodistas y desarrolladores. Hay algo más profundo.

Qué es el sesgo de automatización

El sesgo de automatización (automation bias) es la tendencia humana a favorecer las sugerencias de un sistema automatizado y a ignorar la evidencia que las contradice, incluso cuando esa evidencia es correcta. Como resume Alan Wagner (Penn State), tendemos a creer que las máquinas "saben más, no se rompen y son infalibles". El dato perturbador es que la experiencia no protege: estudios sobre sistemas de apoyo a la decisión muestran que un veterano de veinticinco años y un novato delegan en la máquina con frecuencia parecida.

Lo dramático de este sesgo es que opera bajo presión y bajo incertidumbre, justo donde el juicio profesional debería encenderse. En un experimento de 2024 de Colin Holbrook (UC Merced) y Wagner, los 26 participantes siguieron a un robot durante una evacuación de emergencia simulada, pese a haberlo visto fallar minutos antes. Algunos lo siguieron hacia un cuarto oscuro sin salida. ¿Por qué un humano apaga su propio juicio frente a una guía que acaba de equivocarse?

Por qué golpea al abogado

Porque la IA generativa no entrega una sugerencia tímida: entrega prosa fluida, con tono de autoridad y formato de cita. Investigadores de Wharton, Steven Shaw y Gideon Nave, llaman a esto rendición cognitiva: aceptar acríticamente la respuesta de la IA en lugar de razonar. En tres experimentos con más de 1.300 participantes y cerca de 10.000 ensayos, la aceptación de respuestas incorrectas llegó al 79,8% en algunas condiciones. El diseño seguro de sí mismo del chatbot desactiva el escepticismo que define al buen jurista. No miente con titubeos: miente con aplomo.

Qué disciplina lo restablece

La buena noticia tiene letra pequeña. Según Shaw y Nave, una recompensa por acierto sumada a retroalimentación inmediata más que duplicó la tasa de corrección sobre respuestas defectuosas (de cerca del 20% a alrededor del 42%). La mala: ni eso eliminó el sesgo. Educar sobre los límites de la herramienta produjo resultados modestos. La conciencia no basta cuando aprietan el tiempo y la cuota.

Lo que funciona no es saber que la IA falla, sino construir el escepticismo en el procedimiento, no dejarlo a la voluntad:

• Verificar cada cita contra la fuente primaria oficial antes de firmar, sin excepción.
• Tratar toda salida de IA como borrador no atribuible mientras no se confirme.
• Crear fricción deliberada: un paso de control que obligue a mirar la sentencia real.

América Latina ya fijó el estándar. En la Sentencia T-323 de 2024, la Corte Constitucional de Colombia no prohibió la IA en la justicia, pero ordenó al Consejo Superior de la Judicatura expedir lineamientos y exigió verificación humana del contenido generado. El mensaje es transversal: la herramienta puede acompañar el razonamiento, nunca reemplazarlo.

El sesgo de automatización no se vence con vergüenza ajena ante el colega sancionado, sino con un método que devuelva la duda a su lugar. La firma no certifica que la IA trabajó; certifica que un profesional verificó.

Fuentes: Scientific American, AI Hallucination Cases Database (Charlotin), Shaw & Nave, Wharton (SSRN), Holbrook & Wagner (ScienceDaily), Automation bias, Sentencia T-323 de 2024, Corte Constitucional de Colombia.