Cuando un ciudadano recibe una negativa automática en un trámite administrativo, la respuesta no puede ser simplemente que el sistema así lo decidió. La opacidad de los algoritmos estatales crea una barrera de indefensión que socava la confianza en las instituciones públicas. Necesitamos transitar hacia un modelo donde la lógica detrás de cada decisión automatizada sea auditable y comprensible para cualquier persona.
El fin de las cajas negras estatales
La implementación de inteligencia artificial en el sector público a menudo se oculta tras contratos de propiedad intelectual privada. Esto impide que los organismos de control y la sociedad civil verifiquen si se están respetando los derechos constitucionales. Exigir la explicabilidad de estos sistemas es el primer paso para garantizar que la tecnología sirva al bien común y no a intereses corporativos opacos.
Hacia una auditoría social permanente
No basta con publicar el código; es necesario crear mecanismos de participación donde expertos y ciudadanos puedan evaluar el impacto de estas herramientas. La supervisión humana debe permanecer en el centro de la administración para corregir desviaciones que una máquina no puede percibir. La verdadera innovación pública reside en la capacidad de ser fiscalizada por aquellos a quienes pretende servir.