Escena cotidiana
Una persona recibe la negativa a un trámite. El sistema informa que no cumple los requisitos. Pregunta cuáles. El sistema repite el mensaje. Busca un teléfono: no hay. Busca una oficina: la derivan al mismo formulario. La decisión existe, tiene efectos, y no hay nadie a quien preguntarle por qué.
El problema invisible
Una decisión automatizada sin vía de impugnación no es una decisión eficiente: es una decisión sin responsable. Automatizar eliminando el canal humano no reduce el error; lo vuelve inapelable. Y el costo de esa inapelabilidad no se reparte parejo: cae sobre quienes tienen menos recursos para insistir.
El concepto
El derecho a la no automatización nombra la posibilidad —efectiva, no declarada— de pedir atención humana, rechazar una recomendación algorítmica, impugnar una decisión automatizada o participar sin una cuenta ni una aplicación obligatoria.
La palabra que hace todo el trabajo es efectiva. Un derecho que figura en los términos y condiciones pero exige seis pasos, un correo sin respuesta y treinta días de espera no es un derecho: es un desincentivo con forma de derecho. La prueba es simple y cualquiera puede correrla: cuánto tarda una persona común en llegar a un humano capaz de revisar la decisión.
Conviene ser preciso sobre su estatuto. Esto es un principio que la ETI propone, no un derecho reconocido de manera homogénea: su alcance jurídico cambia según la jurisdicción y según el tipo de decisión. Se formula acá como un compromiso que una institución puede asumir por decisión propia y volver verificable, sin esperar a que una ley se lo exija.
Como principio de diseño dice algo simple. Toda tecnología debería poder explicarse, interrumpirse y sustituirse, en un grado proporcional a su impacto. Un sistema que no admite ninguna de las tres cosas no es más avanzado: es más frágil, porque concentró en un punto sin salida una función de la que la organización depende.
Es la forma más concreta de la soberanía tecnológica y la condición material de la Ciudadanía 5.0: sin capacidad de impugnar, participar se reduce a usar.
La consecuencia
Garantizar este derecho obliga a sostener capacidad humana disponible, y eso cuesta. Ese costo es el precio de que las decisiones sigan teniendo responsable. Cuando se lo elimina en nombre de la eficiencia, lo que se ahorra en operación reaparece como carga sobre quien recibió una decisión equivocada.
Prácticas posibles
- Garantizar una vía visible y de bajo costo para solicitar revisión humana de cualquier decisión automatizada.
- Ofrecer siempre una alternativa sin plataforma ni cuenta obligatoria.
- Medir el tiempo real que tarda una persona en alcanzar a un humano, y publicarlo.
- Aplicar minimización de datos: recolectar solo lo necesario para el trámite.
- Someter a revisión humana periódica las decisiones automatizadas de mayor impacto.
- Verificar, antes de adoptar un sistema, que pueda explicarse, interrumpirse y sustituirse.