La IA se va a equivocar: diseña el proceso para que no te cueste dinero

Toda IA que uses en tu empresa se va a equivocar. No a veces: seguro. La pregunta que separa a las empresas que automatizan bien de las que acumulan sustos no es “¿qué modelo falla menos?”, sino “¿qué pasa en mi proceso cuando falla?”. La mayoría de proyectos de IA se diseñan asumiendo el caso bueno. Y el caso malo, que llegará, no tiene dueño, ni detección, ni coste calculado.

Esto tiene nombre: diseñar el punto de supervisión humana. Y es una decisión de negocio, no técnica.

El error de pensar en porcentajes

Cuando un proveedor te dice “acierta el 97% de las veces”, la reacción habitual es pensar que un 3% de error es aceptable. Pero un porcentaje sin contexto no dice nada. Lo que importa es otra cosa:

• Qué cuesta cada error. Un 3% de error clasificando correos es ruido. Un 3% de error enviando presupuestos con precios mal calculados es un agujero directo en margen.
• Si el error se detecta o se acumula. Un fallo visible se corrige en minutos. Un fallo silencioso —una dirección mal extraída, un IVA mal aplicado— se descubre meses después, multiplicado.
• Quién lo sufre. No es lo mismo un error interno que uno que le llega al cliente con tu logo.

La decisión correcta no es “qué tasa de error acepto”, sino “qué tipo de error puedo permitirme que llegue al final del proceso sin que nadie lo mire”.

Los tres sitios donde puede ir el humano

Simplificando, en cualquier proceso automatizado la persona puede estar en tres posiciones:

1. Antes de ejecutar (aprobación). La IA prepara, la persona valida y dispara. Es el modo más seguro y el más lento. Tiene sentido cuando el coste del error es alto e irreversible: pagos, ofertas firmadas, comunicaciones sensibles, decisiones sobre personas.
2. Sobre la marcha (excepciones). La IA ejecuta sola los casos claros y aparta los dudosos para revisión. Es el equilibrio que más rendimiento da: el 80% fluye sin tocar y el equipo solo mira lo que la propia IA marca como incierto. Requiere algo que casi nadie configura: que el sistema sepa decir “no estoy seguro”.
3. Después, por muestreo (auditoría). La IA ejecuta todo y alguien revisa una muestra periódica. Vale para procesos de bajo coste por error y alto volumen, donde revisar uno a uno destruiría el ahorro. La clave es que la muestra exista de verdad y no se abandone al tercer mes.

El fallo típico no es elegir mal entre las tres. Es no elegir: montar la automatización y dejar que la supervisión “ya se irá viendo”. Eso, en la práctica, es la opción tres sin muestreo. Es decir, nada.

Cómo decidir en cada proceso

No necesitas un framework complejo. Para cada proceso automatizado, tres preguntas:

• ¿El error es reversible? Si puedes deshacerlo en minutos (un borrador, una clasificación interna), deja correr la IA y audita. Si no se puede deshacer (un envío, un pago, un compromiso con cliente), aprobación previa.
• ¿El error es visible? Si el fallo salta a la vista de quien recibe el resultado, la detección es gratis. Si es silencioso, necesitas revisión por excepciones o controles automáticos que lo hagan visible.
• ¿El error escala? Un error puntual es un caso. Un error sistemático —un prompt mal ajustado que sesga miles de salidas— es un incidente. Los procesos de alto volumen necesitan alertas de patrón: no mirar cada salida, sino vigilar cuándo la distribución de resultados cambia de golpe.

Con esas tres respuestas, la posición del humano sale sola. Y algo importante: la posición no es fija. Un proceso puede empezar con aprobación previa y, tras tres meses sin incidencias, pasar a excepciones. Eso es madurar la automatización. Hacerlo al revés —empezar sin control y añadirlo tras el primer susto— es lo caro.

El coste de supervisar también cuenta

Hay un extremo opuesto igual de dañino: poner a una persona a revisar todo lo que hace la IA, para siempre. Si alguien valida el 100% de las salidas y aprueba el 99%, no tienes supervisión: tienes un cuello de botella con sueldo. La señal para relajar el control es objetiva: cuando la tasa de correcciones reales baja de un umbral que tú decidas, se pasa al siguiente nivel de autonomía.

Revisar sin criterio, además, degenera rápido en clicar “aprobar” sin mirar. La supervisión útil es la que revisa poco, pero con atención, en los puntos donde el error duele.

El movimiento de esta semana

Coge tus tres procesos más automatizados y responde por escrito, para cada uno: qué pasa cuando la IA se equivoca, quién lo detecta, cuánto tarda en detectarse y cuánto cuesta. Si alguna de esas cuatro respuestas es “no lo sé”, ya sabes dónde está tu próximo incidente.

La IA no tiene que ser perfecta para ser rentable. Tiene que fallar donde fallar es barato. Eso no lo decide el modelo: lo decides tú al diseñar el proceso.