La auditoría: nunca confíes en una cita de la IA
En lo jurídico, una cita inventada no cuesta un like: cuesta el caso y tu matrícula en la OAB (el colegio de abogados de Brasil). Esta es la lección del moat RESPONDER aplicado al derecho: la IA propone, el abogado confirma, y quien firma es una persona, siempre.
Un abogado le pidió a la IA tres precedentes para sustentar una tesis de prescripción. En segundos llegó un texto impecable: número de expediente, magistrado, fecha del fallo, sumario redondo. Lo copió directo en la demanda y ya tenía el dedo en el botón de protocolar cuando un pasante, por costumbre, fue a confirmar el primer número en el sitio del tribunal. El expediente no existía. El segundo tampoco. El tercero mezclaba el nombre de un magistrado real con un sumario inventado. La pieza parecía perfecta y estaba enteramente fabricada. Solo el hábito de confirmar antes de protocolar evitó el desastre.
Un analista le pidió a la IA un dictamen que fundamentara una clasificación tributaria y recibió la cita de una norma de la autoridad fiscal "vigente desde 2021". La redacción era convincente, el número parecía oficial. Solo que la instrucción normativa citada había sido derogada hacía dos años, y el fragmento transcrito nunca existió en ninguna versión de ella. La verificación en la fuente oficial, hecha antes de anexar al dictamen, fue lo que impidió que saliera la clasificación equivocada.
Una asistente le pidió a la IA jurisprudencia para un caso laboral y recibió cuatro sentencias del TST con votación, sala y magistrado. Al auditar antes de protocolar, descubrió que dos eran inventadas desde cero y una tercera era real, pero decía exactamente lo opuesto de lo que la IA afirmó que decía. Faltaba una hora para el plazo.
Un equipo le pidió a la IA el sustento jurídico de un claim de campaña ("comprobado por estudio") y recibió la cita de una investigación con autor, año y revista. La pieza casi salió al aire. En la auditoría, el estudio no existía, y el claim sin respaldo exponía a la empresa a una demanda por publicidad engañosa. Confirmar la fuente antes de aprobar la pieza fue lo que impidió que el claim saliera al aire.
Una reclutadora le pidió a la IA un resumen del historial de un candidato a partir del currículum y recibió un texto redondo: empresa, cargo, tres años de experiencia en un sistema específico, todo en el tono de quien leyó todo con cuidado. Casi le manda el dictamen al gerente con recomendación de contratar. En la confirmación, cruzó con el currículum real: ese sistema nunca aparecía ahí, y los "tres años" eran un número que la IA inventó para llenar el vacío. El texto parecía evaluado y estaba fabricado. Solo la comparación con el currículum real evitó recomendar con base en un dato inventado.
Un PM le pidió a la IA datos de mercado para justificar una priorización en el roadmap y recibió tres números hermosos: tamaño del segmento, tasa de adopción, fuente con nombre de consultora y año. Ya iba a pegarlo en el PRD para defender la feature ante el comité. Antes, fue tras la fuente primaria: el informe citado no existía, y uno de los números reales decía lo opuesto de lo que sustentaba su tesis. Toda la priorización estaba apoyada en suelo de mentira. Verificar la fuente antes del comité fue lo que evitó basar el roadmap en un número fabricado.
Un vendedor le pidió a la IA un resumen de la cuenta para armar la propuesta y recibió el historial del cliente: facturación, contratos anteriores, nombre del decisor, todo con el formato de quien lo sacó del CRM. Casi manda la propuesta con esos datos. Fue a confirmar en el CRM real: el decisor citado había salido hacía meses y el contrato anterior nunca existió. Una propuesta con un dato inventado sobre el propio cliente quema la relación al instante. Y fue solo confirmar en el CRM antes de enviar lo que evitó esto.
Un coordinador le pidió a la IA el procedimiento de un proveedor para cerrar el plan de logística y recibió un SLA detallado: plazo de entrega, ventana de recolección, cláusula de penalidad, número de contrato. Iba a distribuirlo al equipo como regla oficial. En la auditoría, abrió el contrato real: el plazo citado era otro y esa cláusula de penalidad no existía en ninguna versión. El documento parecía operativo y estaba todo inventado. Solo abrir el contrato real antes de distribuir evitó difundir la regla equivocada.
Una analista le pidió a la IA el artículo de la LGPD que sustentaba un control interno y recibió la cita de un artículo "vigente", con número y redacción convincente. Iba a anexarlo al dictamen de riesgo. Antes de firmar, lo confirmó en el texto oficial: el artículo citado había sido modificado y el fragmento transcrito nunca existió en la ley. Un control apoyado en base regulatoria fantasma es el tipo de falla que la próxima auditoría encuentra. Y confirmar el texto oficial antes de firmar fue lo que evitó esto.
Un dev le pidió a la IA la documentación de una función de la librería para cerrar el deploy y recibió un fragmento impecable: nombre del método, parámetros, ejemplo de uso, link a la doc oficial. Casi sube el código con eso. Fue a confirmar en la fuente: el método no existía en esa versión y el link llevaba a una página que nunca trató de eso. El código parecía listo e iba a romper en producción. Verificar la fuente antes del deploy fue lo que evitó esto.
Una diseñadora le pidió a la IA un dato de investigación para justificar una decisión de flujo y recibió una estadística de usabilidad con fuente, año y porcentaje exacto. Iba a poner esto en el informe para cerrar el prototipo con la stakeholder. En la confirmación, el estudio citado no existía, y la heurística real apuntaba al camino contrario del flujo propuesto. Toda la decisión de recorrido iba a nacer apoyada en un número que nadie midió. Solo confirmar la fuente antes de cerrar el prototipo evitó esto.
Un analista de estrategia le pidió a la IA el benchmark de margen operativo de los tres principales competidores para sostener la tesis del board deck y recibió números redondos, con fuente de una consultoría reconocida y año de publicación. Ya iba a subir el slide para la reunión. Antes de presentar, fue a buscar el informe original: el estudio citado no existía con ese nombre, y la consultoría nunca publicó ese dato. Toda la tesis de inversión estaba apoyada en un benchmark inventado. Solo la verificación en la fuente primaria, antes de subir el slide, evitó presentar un número que no existía.
Mira, voy a ser honesto contigo. La parte más peligrosa de la IA en lo jurídico no es cuando se equivoca de forma obvia. Es cuando acierta en la forma y falla en el hecho. Te entrega una sentencia con número, magistrado y sumario, todo en el tono correcto, y tu cabeza se relaja porque parece el trabajo de un colega competente. Ese relajamiento es el agujero. En lo jurídico, una cita inventada no cuesta un comentario malo en internet: cuesta el caso, cuesta el cliente y puede costar tu matrícula en la OAB (el colegio de abogados de Brasil).
La idea central de esta lección. La IA no "consulta" la ley: predice el siguiente texto más probable. Por eso inventa sentencia, número de expediente, artículo y doctrina con confianza absoluta, y su confianza es justamente lo que te engaña. La regla es simple e innegociable: nunca confíes en una cita de la IA. Tú auditas. Y quien firma la pieza es una persona, siempre, porque "la IA que la escribió" no existe ante el juez.
01Por qué la IA miente con la cara más seria del mundo
Vamos a deshacer un malentendido que sale caro. La IA no tiene un banco de leyes en la cabeza que "abre" para responderte. Funciona prediciendo cuál es la siguiente palabra más probable, dado todo lo que vino antes. Cuando le pides una sentencia, no la busca: compone algo que tiene cara de sentencia. Número, magistrado, sumario, todo en el formato perfecto, porque vio miles de sentencias reales y aprendió el molde. El molde está bien. El contenido puede ser pura ficción.
Esto tiene hasta nombre técnico: alucinación. Pero el nombre esconde lo que importa. El problema no es que se equivoca; es que se equivoca con la misma confianza con que acierta. No viene un aviso, no viene un "tal vez", no viene una duda. Viene un texto seguro, redondo, tal como lo escribiría un jurista experimentado. Y ya ha pasado de verdad: abogados fueron sancionados por protocolar piezas con jurisprudencia inventada por la IA, citando casos que nunca existieron. El juez fue a confirmar, no encontró nada, y la cuenta llegó a nombre del abogado, no de la herramienta.
Fíjate en la inversión cruel. En el mundo analógico, la señal de que algo es confiable es que parezca bien hecho. Con la IA, parecer bien hecho no dice nada sobre ser verdadero, porque producir algo bien hecho es exactamente lo que hace mejor. La forma dejó de ser prueba. Solo el hecho es prueba. Y el hecho, en lo jurídico, se confirma en la fuente.
02La paradoja de la velocidad: te sientes más rápido equivocándote
Hay un estudio que necesita entrar en tu cabeza antes de que confíes en tu propia sensación. En 2025, la METR midió a desarrolladores experimentados trabajando con y sin asistencia de IA. El resultado contradijo a todos: con la IA, se volvieron más lentos. Cerca de diecinueve por ciento más lentos. Pero aquí está el detalle que importa para lo jurídico: creían que estaban más rápidos. La sensación de aceleración era real; la ganancia no lo era.
¿Por qué pasa esto? Porque la IA te da un borrador instantáneo, y el cerebro registra esa entrega rápida como progreso. Solo que el trabajo de verdad, confirmar, corregir, deshacer lo que salió mal, queda escondido y desaparece de tu percepción. Sientes la salida veloz y no sientes el tiempo que gastas limpiando el desastre. La sensación de acierto es traicionera: es fuerte exactamente cuando deberías estar más desconfiado.
En el desarrollo, esa paradoja cuesta horas. En lo jurídico, cuesta el caso y la OAB. Porque la sensación de "ya está listo, solo hay que protocolar" es la misma, pero la factura es incomparable. Por eso la auditoría no puede depender de cómo te sientes sobre la pieza. La sensación es justamente el instrumento descalibrado. Necesitas un proceso externo, frío, que no pregunta si estás confiado. Pregunta si la cita existe.
03El checklist de auditoría jurídico: cinco preguntas antes de firmar
Aquí está el corazón de la lección. Auditar una pieza asistida por IA no es una intuición, es una rutina. Cinco preguntas, siempre las mismas, siempre en la fuente. Si alguna falla, la pieza no sale. No se trata de cuánto confías: se trata de pasar por los cinco portones.
- ¿Cada cita existe y dice lo que la IA afirmó? Abre el tribunal, el diario oficial, la fuente primaria. Confirma número de expediente, magistrado, fecha. Y lee el sumario de verdad, porque un precedente real puede decir lo opuesto de lo que la IA garantizó que decía.
- ¿La ley está vigente? Una norma citada puede estar derogada, modificada o todavía en vacatio legis. La IA no sabe la fecha de hoy ni sigue las derogaciones. Confirma la vigencia en el texto oficial actualizado.
- ¿El precedente es aplicable a este caso? Existir y estar vigente no basta. La sentencia necesita tratar de materia, instancia y contexto compatibles con el tuyo. Un precedente fuera de contexto es munición que explota en tu mano.
- ¿Algún hecho sobre el cliente está inventado? La IA llena los vacíos con lo que suena plausible: fechas, montos, nombres, secuencia de eventos. Cruza cada hecho afirmado en la pieza con lo que el cliente realmente te contó y con los documentos. Un hecho inventado sobre el propio cliente es el error que destruye la relación.
- ¿Quien firma sabe sustentar? Si el juez pregunta de dónde salió ese argumento, en audiencia, en el momento, sin la IA cerca, ¿lo sustentas? Si la respuesta es no, la pieza todavía no es tuya. Es un borrador que no entiendes.
04El principio RESPONDER: quien firma es una persona, siempre
En el mapa Los 3 Movimientos, RESPONDER es el moat: la parte del trabajo con IA que no se terceriza, porque ahí vive la responsabilidad. En lo jurídico, RESPONDER tiene una traducción exacta y dura: la pieza sale con un nombre humano debajo, y ese nombre responde por cada palabra de ella.
Piensa en lo que pasa en una audiencia. Si hay un problema en la pieza, el juez no llama a la IA. No existe "la IA que la escribió" ante el juzgado, ante el cliente, ante la OAB. Existe el abogado que protocoló. La máquina ejecuta, la máquina propone, la máquina redacta rápido. Pero la firma es la frontera donde la responsabilidad deja de poder empujarse hacia adelante. Golpea en una persona y se queda ahí. Ese es el principio RESPONDER aplicado al derecho, y conecta directo con la gobernanza que viste en la lección 4.4: el humano controla el sistema, y el nombre humano responde por la salida.
Y aquí está el marco que cambia tu relación con la auditoría. Confirmar cada cita no es desconfiar de la herramienta, no es anticuado, no es pérdida de tiempo. Auditar es proteger tres cosas al mismo tiempo: el cliente, que te confió el caso; el caso, que se pierde con un solo precedente fabricado; y tu matrícula, que es tu derecho a ejercer. La IA te dio velocidad en el borrador. La auditoría es lo que transforma esa velocidad en algo que puedes firmar sin perder el sueño. Quien se salta la auditoría no está siendo más rápido. Está terceriando su propio riesgo y fingiendo que no lo vio.
Hazlo ahora
Toma un caso real de tu día a día (tu tarea real sirve bien) en el que usarías la IA para redactar el borrador de una pieza con fundamentación. Antes de pensar en protocolar cualquier cosa, arma TU propio checklist de auditoría jurídico de cinco puntos, adaptado a tu tipo de práctica:
- LA CITA EXISTE Y COINCIDE: escribe la pregunta exacta y en qué fuente primaria vas a confirmar cada sentencia, jurisprudencia o doctrina (qué tribunal, qué base, qué diario).
- VIGENCIA: ¿cómo confirmas que cada ley, norma o instrucción citada está vigente hoy, y no derogada o todavía en vacatio legis?
- APLICABILIDAD: ¿qué criterio usas para decidir si el precedente realmente le sirve a ESTE caso (materia, instancia, contexto)?
- HECHOS DEL CLIENTE: ¿cómo cruzas cada hecho afirmado en la pieza con lo que el cliente contó y con los documentos, para detectar cualquier cosa que la IA haya inventado?
- SUSTENTACIÓN: la pregunta que te haces para saber si podrías defender cada argumento en audiencia, sin la IA cerca.
Escribe los cinco en una página y pégala al lado de la pantalla. Si protocolas sin pasar por los cinco, no fue la IA la que firmó: fuiste tú.
Practica
1. ¿Por qué una cita producida por la IA nunca debe protocolarse sin verificación en la fuente, incluso cuando viene con número de expediente, magistrado y sumario completos?
2. El estudio de la METR en 2025 mostró profesionales experimentados más lentos con IA, pero creyendo que estaban más rápidos. ¿Cuál es la lección directa de esto para la auditoría jurídica?
3. Aplicado a lo jurídico, ¿qué determina el principio RESPONDER (la IA propone, el abogado confirma, la persona firma) sobre la responsabilidad por la pieza?
¿Listo? El mensaje de esta lección es el más corto del módulo y el más caro de ignorar: nunca confíes en una cita de la IA. Es una redactora veloz y una pésima testigo de sí misma. Usa su velocidad en el borrador, pero pasa todo por los cinco portones antes de poner tu nombre debajo. Auditar no es desconfiar de la herramienta; es proteger al cliente, el caso y tu matrícula. La IA propone, tú confirmas, y quien firma es una persona. Siempre.
Para la pizarra
Sobre bajar la guardianúmero de sentencia, ponente y sumario en el tono correcto hacen que tu cabeza se relaje. Esa relajación es el agujero.
Sobre la formala forma perfecta no es prueba de verdad. Es justamente lo que la IA hace mejor.
Sobre el costoen lo jurídico una cita inventada no cuesta un mal comentario. Cuesta el caso.
Gracias por el feedback. Esto ayuda a afinar la próxima lección.