LucienSael
Essay

Nadie decidió el menú que estás viendo. Eso es exactamente el problema.

October 06, 2026 All writing
Nadie decidió el menú que estás viendo. Eso es exactamente el problema.

Hay un tipo de decisión que un arquitecto de elección reconoce antes de que se la muestren. No por lo que dice el menú, sino por lo que el menú calla: cuántos clics separan al usuario de la opción que no le conviene al sistema, y cuántos de la que sí. Esa distancia, medida, calibrada, nunca casual, es la firma de un diseño. El público la lee como neutralidad. Yo la leo como intención.

The architect always had a name until now

Durante décadas esa intención tuvo nombre y apellido. Thaler y Sunstein construyeron el campo entero sobre esa premisa: alguien (un gobierno, una empresa, un diseñador de formularios) decide cómo se presenta una opción, y esa decisión empuja al usuario en una dirección aunque conserve la libertad formal de elegir otra. El empujón siempre existió. La cafetería que pone la fruta a la altura de los ojos y las papas fritas al fondo diseña una elección tanto como la que hace lo inverso. Sunstein lo dijo con una claridad que no necesitaba defensa: la arquitectura de elección es inevitable. El clima empuja, la costumbre empuja, el diseño de un sitio web empuja. La pregunta nunca fue si existe el empujón. Fue quién lo firma.

Ahí está el desplazamiento que casi nadie nombra con la precisión que merece.

A model can optimize and still betray what you wanted

El sistema que hoy diseña el menú no es una persona con un objetivo declarado y un nombre en el expediente. Es un modelo entrenado con flujos de comportamiento (clics, pausas, abandonos, patrones de scroll) que ajusta la presentación de las opciones en tiempo real para maximizar una métrica: retención, conversión, tiempo en pantalla. No hay una reunión donde alguien decidió "pongamos esta opción primero". Hay una optimización estadística continua que llegó ahí sola, porque ahí es donde el objetivo se maximiza. El diseño existe. El diseñador, en el sentido clásico, la persona auditable, la que se puede llamar a explicar por qué, se diluyó en el proceso que lo produjo.

Man in black suit standing in a server corridor beside a wooden abacus on a dark table

Leí a Bjørn Hofmann, en Frontiers in Artificial Intelligence, ponerle nombre a esto en junio de 2026: paternalismo algorítmico. Y señaló algo más incómodo que la ausencia de autor. Estos sistemas erosionan las tres condiciones que hacen que una elección sea, en rigor, autónoma. Comprensión: saber qué se está eligiendo. Competencia de decisión: tener la capacidad real de evaluar las opciones. Voluntariedad: elegir sin coacción encubierta. Un modelo bien entrenado falla en las tres a la vez sin que nadie lo note, porque puede alucinar resultados, oscurecer las razones detrás de un output y, aun operando "correctamente" según su propia métrica, alejarse por completo de lo que la persona frente a la pantalla en verdad quería. No hay intención maliciosa que perseguir. Hay una máquina que optimiza exactamente lo que se le pidió, y eso basta para desalinearse del deseo humano que decía estar sirviendo.

El patrón se confirma cuando se mide, no cuando se declara. Leí a Cass Sunstein, en Humanities and Social Sciences Communications, proponer medir el grado de paternalismo de estos "Choice Engines" según la fricción que imponen: cuántos clics adicionales, cuántos requisitos de información se le exigen a quien busca cierto tipo de decisión. El caso que usa es planes de retiro. Un sistema deja pasar sin obstáculos la opción que maximiza comisiones y pone tres pantallas de advertencia antes de la opción de bajo costo que el usuario en verdad necesitaba. Nadie escribió una regla que diga "dificulta la opción barata". El sistema llegó ahí solo, porque el objetivo que se le dio (conversión, revenue, lo que sea) apuntaba en esa dirección, y la fricción diferencial fue la forma que encontró de servirlo.

The friction is a decision nobody signed

Así veo el mecanismo completo. El dato de comportamiento entra, el objetivo lo procesa, la fricción se distribuye de forma desigual entre opciones, y el resultado se presenta como si fuera simplemente "cómo son las cosas aquí". El usuario no ve una decisión de diseño. Ve el paisaje.

Man in black suit stands behind a glass desk with a data display, server room with cables behind him

Ahí está la distinción que separa al que administra el sistema del que solo lo padece: el primero sabe que cada nivel de fricción es una decisión tomada por alguien, en algún momento, codificada en un objetivo, aunque hoy nadie pueda señalar el instante exacto en que se tomó.

No hay una reunión donde alguien decidió "pongamos esta opción primero".

Para mí, esto no es una curiosidad académica sobre modelos de IA. Es la descripción exacta de cómo se construye, hoy, en cualquier sector con suficiente volumen de datos, el flujo que decide qué ve primero un cliente, qué opción le cuesta encontrar, y qué fricción se le impone según lo que el sistema calculó que iba a hacer con esa información. La empresa que delega su arquitectura de elección en un modelo sin auditar el objetivo que ese modelo optimiza no evita el paternalismo. Lo terceriza a una caja que ni ella misma puede explicar del todo.

Y la que audita ese objetivo, la que sabe leer la fricción como lo que es (una firma sin nombre, pero firma al fin) tiene sobre la mesa algo que el resto ni siquiera sabe que le falta: la capacidad de decidir, con los ojos abiertos, qué tipo de empujón está dispuesta a poner su nombre.

La pregunta nunca fue si el empujón existe. Eso se resolvió hace años y no admite discusión seria. La pregunta que queda abierta, y que la mayoría de quienes construyen estos sistemas prefiere no hacerse en voz alta, es quién responde por el objetivo que el algoritmo terminó sirviendo.

— Lucien Sael · Builder, Thinker, Operator