Un análisis sobre cómo los sistemas de IA formalizan decisiones humanas, dejando fuera aspectos como lealtades y vínculos, y cómo la delegación tecnológica afecta nuestra responsabilidad moral.
Imaginá que tenés que salvar a una sola persona de una muerte segura: tu madre, que trabaja como empleada doméstica, o un científico a punto de descubrir la cura del cáncer. La mayoría elegiría a su madre, según evidencia experimental. No por un error de cálculo, sino porque nuestras restricciones de identidad y vínculos suelen ser más fuertes que la adhesión intelectual a un principio utilitarista.
Este tipo de dilemas aparece con frecuencia en aplicaciones de inteligencia artificial: desde hospitales que asignan recursos críticos hasta algoritmos de contratación o vehículos autónomos programados para escenarios de colisión. Al traducir decisiones humanas a reglas computables, los diseñadores tienden a omitir precisamente aquello que en las personas opera antes del cálculo: lealtades, prohibiciones y restricciones identitarias.
El resultado es una versión formalizada y despersonalizada de la decisión, más cercana a lo que decimos que debería hacerse que a lo que realmente estamos dispuestos a hacer. El desafío del “alineamiento” de la IA no sería entonces solo hacer que el sistema haga lo que queremos, sino decidir qué estamos dispuestos a elegir cuando dejamos fuera —a menudo por no saber formalizarlas— las restricciones que organizan nuestra moral.
La tensión clave reside en la delegación: entre lo que hacemos directamente y lo que autorizamos a la IA a hacer en nuestro nombre. Quien programa un código para resolver dilemas utilitaristas conoce los resultados que se producirán; simplemente no será el agente directo. La responsabilidad se diluye con la distancia del rol.
La psicología moral ha documentado durante décadas cómo el peso ético de una misma decisión varía según la proximidad a sus consecuencias. En el célebre “problema del tranvía”, la decisión se vuelve más utilitaria con la distancia física, lingüística o tecnológica, que amortigua la respuesta emocional y facilita el cálculo frío.
Desde el asesinato por encargo hasta la tercerización contemporánea, los humanos sabemos que delegar disminuye la angustia moral. Los sistemas de IA combinan la fragmentación de tareas y la delegación de ejecución en un “distanciamiento computacional”: el programador está separado de las consecuencias por capas de código y contextos que ningún individuo controla en su totalidad.
Este mecanismo recuerda a lo que Hannah Arendt llamó la “banalidad del mal” en sistemas burocráticos, donde la responsabilidad se fragmenta hasta que nadie se siente responsable por los resultados colectivos. La IA crea una variante de este fenómeno, planteando preguntas profundas sobre ética, tecnología y responsabilidad en la era digital.