Criterios, no impresiones

Agents at Work — CC BY 4.0

Si le preguntas a un agente «¿es este un buen candidato?» o «¿es este proveedor de fiar?», te dará una respuesta con total seguridad. Ese es el problema. Un veredicto rotundo sin nada que lo respalde es lo más fácil del mundo de generar para estas herramientas, y lo más difícil de rebatir — que es precisamente por lo que nunca deberías dejar que un agente te dé uno.

La regla de diseño para cualquier agente que emita juicios: debe devolver las pruebas y el razonamiento, en función de los criterios que hayas establecido previamente. No debe emitir un veredicto.

Las corazonadas no se transmiten

Un veredicto —una puntuación, un «sí», una clasificación— es una caja negra. No puedes verificarla, no puedes explicársela a la persona a la que afecta y no puedes saber si se basa en algo relevante o en algo que no debería serlo (el nombre del solicitante, el código postal del proveedor, una palabra aislada en un CV). Cuando es erróneo, te enteras demasiado tarde, y eres tú quien tiene que responder por ello.

La evidencia basada en criterios es todo lo contrario. Si el trabajo del agente consiste en «señalar las facturas vencidas con más de 60 días de retraso», el criterio está por escrito, el resultado se puede comprobar en un segundo y un error es evidente. Cuanto más importa el trabajo, más importa esto —pero se aplica en todas partes, en todo el ámbito:

• Contable: no «¿te parece que esto está bien?», sino la regla de conciliación y cada excepción que haya detectado, con las cifras.
• Analista de la competencia: no «esto es lo que están haciendo los competidores», sino cada afirmación con su fuente, para que puedas ver si conviene basarse en ella.
• Analista de mercado: no una síntesis tajante, sino los hallazgos y una distinción entre los datos citados y sus propias inferencias.
• Responsable de selección: no una lista de preseleccionados ni una puntuación, sino «aquí es donde esta candidatura cumple y no cumple los criterios escritos y relevantes para el puesto» — y es una persona quien decide.

Escribe los criterios primero — y anótalos

«Primero» implica un trabajo real en esa frase. Los criterios que establezcas antes de que el agente se ponga en marcha son criterios que has elegido por buenas razones. Los criterios a los que recurres después, al ver el resultado, no son más que una historia que te cuentas para justificar la respuesta que ya tienes —y si la respuesta era sesgada, también lo es la justificación.

Ponerlo por escrito también importa. Los criterios que tienes en la cabeza no son verificables, no se pueden transmitir al agente de forma clara y se van desviando silenciosamente de un caso a otro. Sobre el papel, son un contrato: esto es lo que estamos valorando, esto y no aquello. Si un criterio es algo que no podrías decir en voz alta a la persona afectada —«penalizamos los periodos de inactividad laboral», por ejemplo—, ponerlo por escrito es lo que te obliga a darte cuenta.

Por qué esto hace que el control humano sea real

Esta es la elección de diseño que rescata la última lección. Una persona a la que se le entrega un veredicto se limita a sellarlo sin más —eso es el sesgo de automatización, y es la principal razón por la que falla la aprobación humana—. Una persona a la que se le presentan pruebas en relación con los criterios tiene algo que sopesar realmente, y algo con lo que discrepar. «El agente le ha dado un 6» invita a asentir. «El agente ha determinado que cumple cuatro de los cinco criterios escritos y no sabe qué pensar del quinto» invita a tomar una decisión. El mismo agente, la misma persona, pero la segunda es una puerta de control y la primera es un sello.

Es el Ancla 3 en su forma práctica: un agente por el que puedes responder es aquel cuyo trabajo puedes ver. Las pruebas en relación con los criterios escritos son lo que significa «ver» en la práctica.

La estrategia de diseño

Para cualquier agente que juzgue o recomiende, antes de crearlo:

• Escribe los criterios: explícitos, relevantes para la tarea, las cosas que realmente influyen en la decisión, y solo esas.
• Diseña el resultado como evidencia + justificación —«esto es lo que he encontrado, así es como se ajusta a cada criterio, aquí es donde tengo dudas»— y no como una puntuación o una decisión.
• Mantén la decisión en manos humanas siempre que lo exijan los riesgos o la puerta de derechos (Nivel 1).

Reutilizarás esos criterios de nuevo en el Nivel 3, cuando pruebes al agente —porque los criterios que puedes escribir son criterios con los que puedes comparar al agente—.

A continuación

Hay un criterio que merece su propia lección, porque es ahí donde las buenas intenciones se tuercen: mantener al agente al margen de quién es la persona . Es necesario —y, por sí solo, no basta—.