Buena administración de la transparencia de los algoritmos de la Administración Pública: un instrumento para el control de las cajas negras decisionales
Description
Las instituciones de control del poder público han de mantenerse estables ante las tecnologías digitales en tanto en cuanto tienen un carácter instrumental y no finalista. Los algoritmos configurados por las Administraciones adoptan posiciones muy relevantes, llegando a tomar o a colaborar en las decisiones públicas. Los ciudadanos tienen derecho a conocer cómo se han configurado dichos algoritmos, a saber “como piensan”. Se habla de transparencia algorítmica para controlar su configuración y actuación.
En la actualidad el sistema de transparencia resulta insuficiente para promover una configuración cristalina de los algoritmos que emplea la Administración. Existe un déficit en el acceso a la información sobre su funcionamiento, a saber: su proceso de creación, datos que se toman, objetivos y motivación de la decisión adoptada. Esté déficit de publicidad ha de ser resuelto de conformidad con los parámetros del derecho fundamental a una buena administración.
Más que una reforma del Derecho positivo, es necesario un giro en la cultura de la transparencia, que ha de mirar a la cuarta revolución industrial en el convencimiento de que las tecnologías digitales son un instrumento que no rompe con el fondo sustantivo del ámbito teleológico del poder público. La Administración ha de asumir que ha de rendir cuentas en la aplicación de las tecnologías digitales, sobre todo si afectan a la posición jurídica de la persona.
Abstract (English)
Oversight institutions of public authority should remain stable in the face of digital technologies, insofar as these technologies are instrumental rather than ends in themselves. Algorithms designed by public authorities occupy highly consequential positions, at times making—or contributing to—public decisions. Citizens have a right to know how such algorithms are configured, to understand “how they think.” The notion of algorithmic transparency seeks to subject their design and operation to scrutiny.
At present, the transparency framework is insufficient to foster a clear and transparent design of the algorithms used by the administration. There is a deficit in access to information about their operation—namely, the process by which they are created, the data they rely on, the objectives pursued, and the reasoning or motivation for the decisions adopted. This transparency deficit must be addressed in accordance with the parameters of the fundamental right to good administration.
Rather than a reform of positive law alone, what is needed is a cultural shift in transparency—one that looks to the Fourth Industrial Revolution with the conviction that digital technologies are instruments that do not disrupt the substantive ends of public authority. The administration must accept that it is accountable for the deployment of digital technologies, especially where they affect the legal position of individuals.
Files
Buena Administración - Algoritmos.pdf
Files
(5.3 MB)
| Name | Size | Download all |
|---|---|---|
|
md5:1ac36138f487890d71cfa7639f81ba0f
|
5.3 MB | Preview Download |
Additional details
Additional titles
- Translated title (English)
- Good Administration of Algorithmic Transparency in the Public Sector: A Tool to Control Black-Box Decision-Making