Esta semana, El País publicaba un artículo en el que se afirmaba que algunas administraciones públicas en España están utilizando sistemas de inteligencia artificial, como ChatGPT, “a mansalva y sin control alguno”. ¿El objetivo? Ser más ágiles, reducir la carga burocrática y prestar mejores servicios al ciudadano.
Difícil oponerse a fines tan razonables como esos. Pero cuando un propósito como “servir mejor al ciudadano” se convierte en una justificación automática para cualquier decisión, entramos en una dinámica que puede bloquear el análisis crítico. Se cree tanto en la bondad de la causa que se dejan de cuestionar los medios empleados para lograrla.
Este fenómeno, conocido como ilusión de moralidad, se da cuando un grupo, una administración, una empresa o un equipo, está tan convencido de que su causa es justa, que asume que todo lo que hace en su nombre también lo es. Y es entonces cuando los riesgos se subestiman, las advertencias se ignoran y las dudas se silencian.
En el caso descrito por El País, el deseo de “mejorar los servicios al ciudadano” puede llevado a algunas administraciones a implementar herramientas de inteligencia artificial sin una evaluación rigurosa, una formación adecuada para los funcionarios o garantías claras sobre el tratamiento de los datos.
Esta dinámica no es exclusiva del sector público ni del uso de la inteligencia artificial. Está presente en cualquier organización, comité o equipo que se mueva guiado por un propósito que considera moralmente incuestionable. Mejorar el servicio, democratizar el acceso, proteger a los vulnerables, aportar valor al accionista… son motivos que pueden crear la sensación de que cualquier crítica es un obstáculo, cualquier duda una amenaza, y cualquier debate una pérdida de tiempo. Cuando esto se da, el pensamiento crítico desaparece, no por falta de inteligencia, sino exceso de convicción.
La ilusión de moralidad no surge de malas intenciones, sino de la confianza excesiva en nuestras buenas intenciones. Y esa confianza puede acallar el disenso. De este modo, es importante recordar que, a la hora de tomar una decisión, ningún propósito, por noble que sea, debería eximirnos de cuestionar las acciones que nos acercan a lograrlo.
