El nuevo juego del área jurídica con IA

Le pasas un contrato de 60 páginas a la IA y le pides un dictamen sobre el riesgo de la cláusula de rescisión. En 30 segundos vuelve un texto impecable, con tono de quien tiene certeza, citando un artículo de ley y un precedente. Casi lo firmas. Solo que ese precedente no existe, y el artículo citado habla de otra cosa.

Le pides a la IA que resuma los currículums de la vacante sénior y señale los tres candidatos más fuertes para llamar a entrevista. Devuelve una lista redonda, con nota para cada uno y la frase "fulano tiene 8 años de experiencia en el área", segura, lista para que se la pases al gerente. Casi mandas la lista sin abrir nada más. El currículum real de fulano muestra 5 años, la IA redondeó el tiempo hacia arriba porque parecía razonable para el cargo, y nadie comparó el resumen con el documento original antes de decidir quién pasa a la siguiente fase. Es el mismo riesgo del jurídico tocando la puerta de RRHH: la IA describe con la misma confianza cuando acierta y cuando inventa, y tú no distingues una cosa de otra solo leyendo el resumen. Todo dato que se convierta en decisión de a quién entrevistar necesita ser verificado en el currículum de origen, no solo en el resumen bonito que entregó la IA.

Le pasas la planilla de investigación de usuarios a la IA y le pides los dolores que más aparecen, para decidir qué sube en el roadmap del trimestre. Devuelve "73% de los usuarios piden integración con el calendario", limpio, con cara de dato cerrado, listo para convertirse en justificación en el PRD. Casi priorizas la feature sobre ese número. Ese porcentaje no está en ningún lado de la investigación original, la IA completó el vacío con un número que suena plausible para ese tipo de producto, y nadie volvió a las respuestas crudas para verificar. Es la misma trampa del dictamen jurídico: el dato inventado tiene la cara del dato verdadero, y solo quien verifica en la fuente nota la diferencia. Antes de que cualquier estadística de la investigación se convierta en línea de prioridad en el roadmap, tiene que coincidir con la planilla de origen, respuesta por respuesta.

Le pides a la IA que arme la propuesta comercial y cite los casos que prueban resultado para ese prospecto. Escribe "el cliente X creció 40% en tres meses con nosotros", convincente, redondo, excelente argumento para cerrar. Casi la mandas directo al cliente. Ese número no existe en tu CRM, la IA inventó el caso para dejar la propuesta más fuerte, y nadie abrió el historial real de la cuenta antes de que la propuesta saliera. Es la misma alucinación con cara de certeza que derrumba un dictamen jurídico: el caso suena verdadero hasta que el prospecto pide la referencia, y ahí quien firma la propuesta responde por el número que no existe. Todo caso citado en una propuesta tiene que venir de tu CRM real, verificado antes de que la propuesta salga de tu escritorio.

Le pides a la IA que analice los indicadores del mes y diga si el SLA de entrega cumplió la meta. Responde "SLA cumplido en 98% de los pedidos", redondo, tranquilizador, listo para entrar al informe para el COO. Casi cierras el informe así. El porcentaje real, en el panel de origen, es 91%, la IA redondeó por su cuenta porque el número parecía razonable para un buen mes, y nadie volvió a la planilla de origen antes de reportar. Es el mismo riesgo que hace que un dictamen jurídico se derrumbe en la auditoría: el número convincente no es garantía de número verdadero. Todo indicador que va al informe de SLA necesita ser verificado en el panel de origen antes de convertirse en número oficial para el comité.

Le pides a la IA que mapee los riesgos del nuevo proceso y diga si cumple con la LGPD, citando el artículo que respalda el análisis. Devuelve "conforme al artículo 7, sin punto de atención relevante", segura, con cara de dictamen cerrado, listo para ir al comité de riesgo. Casi lo adjuntas directo al informe de controles. El artículo 7 habla de otra hipótesis de tratamiento, no de la que está en tu proceso, la IA citó con la misma confianza de quien citaría correctamente, y nadie abrió el texto de la ley para verificar antes de reportar. Es la misma alucinación jurídica que sanciona a un abogado por citar un precedente inventado: la cita equivocada tiene el mismo tono seguro que la cita correcta. Todo artículo citado en un dictamen de compliance necesita ser abierto y verificado en la ley, no solo repetido porque la IA dijo que existía.

Le pides a la IA que revise el fragmento de autenticación antes de subir a producción y diga si está seguro. Responde "todo bien, la función valida el token correctamente antes de liberar acceso", confiada, citando incluso el nombre de la función que hace esa protección. Casi apruebas el deploy solo con esa respuesta. Esa función no existe en tu repositorio, la IA describió un patrón común de autenticación como si fuera tu código real, y nadie abrió el archivo de origen para verificar antes del merge. Es el mismo error que derrumba un dictamen jurídico citando una ley que no existe: la respuesta técnica suena correcta hasta que alguien abre el archivo real. Toda afirmación sobre tu código necesita ser verificada línea por línea en el repositorio antes de cualquier deploy.

Le pasas las sesiones de investigación a la IA y le pides dónde se traban los usuarios en el flujo de checkout, para justificar el rediseño ante el equipo de producto. Devuelve "el abandono ocurre en la pantalla de pago por el campo de cupón", redondo, con comillas de usuario que suenan reales. Casi lo llevas directo a la reunión de priorización. Esa frase no aparece en ninguna de las grabaciones, la IA llenó el vacío con un dolor típico de checkout, y nadie volvió a las transcripciones originales antes de presentar el insight. Es la misma trampa del dictamen jurídico anclado en jurisprudencia fantasma: el insight citado tiene la cara de un insight real. Todo dolor de usuario que se convierte en justificación de rediseño necesita ser verificado en la transcripción original, frase por frase, antes de entrar a la reunión.

Le pides a la IA que arme el slide de market sizing para la reunión de directorio, con el TAM del nuevo mercado y la fuente que sustenta el número. En segundos devuelve un slide redondo, "el TAM es de 2,3 mil millones de dólares", cita un informe de peso al lado, y todo tiene cara de dato cerrado, listo para impresionar. Casi subes con eso al directorio. El informe citado no existe, la IA inventó la fuente con la misma confianza que usaría para citar una verdadera, y nadie del equipo comparó el número con una investigación real antes de cerrar el deck. Es el mismo error que hace que un dictamen jurídico se derrumbe en la primera verificación de la otra parte: la cita bonita no es garantía de cita verdadera. Antes de que cualquier número de mercado se convierta en slide de directorio, necesita una fuente que puedas abrir y verificar, no una que solo suene plausible.