Sistemas automatizados de toma de decisiones en el Derecho Administrativo Español.

  1. Gamero Casado, Eduardo 1
  1. 1 Universidad Pablo de Olavide (Dpto. Derecho Público)
Journal:
Revista General de Derecho Administrativo

ISSN: 1696-9650

Year of publication: 2023

Issue: 63

Type: Article

DIALNET GOOGLE SCHOLAR

More publications in: Revista General de Derecho Administrativo

Abstract

Spain's legislation on automated administrative action is among the most advanced in the world. Enacted in 2007, it has remained the same in the current Administrative Procedure Act of 2015. Currently, more than one third of the Spanish public sector uses these systems. Some problems of compliance with general administrative law remain, such as the right to correct applications, the right to present arguments in the face of a draft before a rejection decision is issued, or the motivation of automated decisions or the transparency of programming. But despite the fact that thousands of automated decisions are taken every day, judicial litigation in this area has so far been merely anecdotal. This paper describes the requirements established by Spanish law for the implementation of automated decision-making systems used by Public Administration: their express prior approval, the auditing of the system, the electronic signature of the decisions, etc.; and the critical aspects that still remain.

Bibliographic References

  • A. Boix Palop, "Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración para la toma de decisiones", en Revista de Derecho Público: Teoría y Método, vol. 1, 2020, págs. 223 y ss. (se puede consultar en https://doi.org/10.37417/RPD/vol_1_2020_33)
  • A. Cerrillo Martínez, “Actividad administrativa automatizada y utilización de algoritmos”, en F. Castillo Blanco, S. Fernández Ramos y J. M. Pérez Monguió (eds.), Las políticas de buen Gobierno en Andalucía (I): Digitalización y transparencia, Instituto Andaluz de Administración Pública, Sevilla, 2022, págs. 259 y ss. (se puede consultar en https://www.juntadeandalucia.es/institutodeadministracionpublica/publico/libros/politicasBuenGobiernoI/)
  • A. Cerrillo Martínez, “Automatización e inteligencia artificial”, en I. Martín Delgado, El procedimiento administrativo desde la perspectiva de la innovación tecnológica, Iustel-IVAP, Madrid, 2020, págs. 389 y ss.
  • A. Cerrillo Martínez, “El impacto de la inteligencia artificial en las Administraciones Públicas: estado de la cuestión y una agenda”, en A. Cerrillo Martínez y M. Peguera Poch, Retos jurídicos de la inteligencia artificial, Aranzadi-Thomson-Reuters, Cizur Menor, 2020, págs. 83 y ss.
  • A. Cerrillo Martínez, “Robots, asistentes virtuales y automatización de las administraciones públicas”, en Revista Galega de Administración Pública, núm. 61, 2021, págs. 271 ss. (se puede consultar en https://egap.xunta.gal/revistas/REGAP/article/view/4791)
  • A. Cerrillo Martínez: “¿Son fiables las decisiones de las Administraciones públicas adoptadas por algoritmos?”, en European Review of Digital Administration & Law, vol. 1, núms.1-2, 2020, págs. 31 y ss. Se puede consultar en http://www.aracneeditrice.it/pdf2/97888255389603.pdf
  • A. D. Berning Prieto, Validez e invalidez de los actos administrativos en soporte electrónico, Aranzadi-Thomson-Reuters, Cizur Menor, 2019, págs. 267 y ss.
  • A. D. Berning-Prieto, “La naturaleza jurídica de los algoritmos”, en E. Gamero Casado (ed.), Inteligencia artificial en el sector público. Retos, límites y medios, Tirant lo Blanch, Valencia, 2023.
  • A. Huergo Lora, “Una aproximación a los algoritmos desde el Derecho administrativo", en A. Huergo Lora, La regulación de los algoritmos, Aranzadi-Thomson-Reuters, Cizur Menor, 2020, págs. 64 y ss.
  • A. Soriano Arnanz, “Decisiones automatizadas y discriminación: aproximación y propuestas generales”, en Revista General de Derecho Administrativo, núm. 56, 2021 (también en línea, INAP en https://laadministracionaldia.inap.es/noticia.asp?id=1511706)
  • A. Soriano Arnanz, “Decisiones automatizadas: problemas y soluciones jurídicas. Más allá de la protección de datos”, en Revista de Derecho Público: Teoría y Método, vol. 3, 2021, págs. 85 y ss. (se puede consultar en http://www.revistasmarcialpons.es/revistaderechopublico/article/view/535)
  • A. Zlotnik: “Inteligencia Artificial en las Administraciones Públicas: definiciones, evaluación de viabilidad de proyectos y áreas de aplicación”, Boletic, n.º 84, 2019, pp.24 ss, https://www.astic.es/sites/default/files/articulosboletic/b84_monografico4_alexander_zlotnik_v2-2.pdf
  • C. del Castillo, “Las víctimas denuncian fallos en VioGén, el algoritmo contra la violencia de género”, en elDiario.es, 9 de marzo de 2022. Se puede consultar en https://www.eldiario.es/tecnologia/victimas-denuncian-fallos-viogen-algoritmo-violencia-genero_1_8815201.html
  • D. Terrón Santos y J. L. Domínguez Álvarez, i-Administración pública, sistemas algorítmicos y protección de datos, Iustel, Madrid, 2022.
  • E. Gamero Casado, “Compliance (o cumplimiento normativo) de desarrollos de Inteligencia Artificial para la toma de decisiones administrativas”, en Diario La Ley (Wolters Kluwer), núm. 50, Sección Ciberderecho, 19/04/2021 (se puede consultar en https://diariolaley.laleynext.es/Content/Documento.aspx?params=H4sIAAAAAAAEAMtMSbF1CTEAAmMjUyMzC7Wy1KLizPw8WyMDI0MDE0NTtbz8lNQQF2fb0ryU1LTMvNQUkJLMtEqX_OSQyoJU27TEnOJUtdSk_PxsFJPiYSYAAPsOzuljAAAAWKE)
  • E. Gamero Casado, “Necesidad de motivación e invalidez de los actos administrativos sustentados en inteligencia artificial o en algoritmos”, Almacén de Derecho, 04 de febrero de 2021. Consultar en https://almacendederecho.org/necesidad-de-motivacion-e-invalidez-de-los-actos-administrativos-sustentados-en-inteligencia-artificial-o-en-algoritmos
  • E. Gamero Casado, “Reflexiones introductorias: de la administración electrónica a la digital (o la historia interminable)”, en A. Cerrillo Martínez (dir.), La Administración Digital, Dykinson, Madrid, 2022, págs. 36 y ss.
  • E. Kazim, D. Mendes, T. Denny y A. Koshiyama: “AI auditing and impact assessment: according to the UK information commissioner’s office”, AI Ethics, 2021, https://doi.org/10.1007/s43681-021-00039-2
  • E. Moss, E.A. Watkins, J. Metcalf y M. C. Elish: “Governing with Algorithmic Impact Assessments: Six Observations”, 24/4/2020, https://dx.doi.org/10.2139/ssrn.3584818
  • F. J. Bauzá Martorell, “Identificación, autenticación y actuación automatizada de las Administraciones públicas”, en E. Gamero Casado (ed.), Tratado de procedimiento administrativo común y régimen jurídico básico del sector público, vol. 1, Tirant lo Blanch, Valencia, 2017, págs. 787 y ss.
  • I Criado, J. Valero y J. Villodre, “Algorithmic transparency and bureaucratic discretion: The case of SALER early warning system”, en Information Polity, vol. 25, núm. 4, 2020, pág. 452 (se puede consultar en https://dl.acm.org/doi/abs/10.3233/IP-200260)
  • I. Martín Delgado, “La aplicación del principio de transparencia a la actividad administrativa algorítmica”, en E. Gamero Casado (ed.), Inteligencia artificial en el sector público. Retos, límites y medios, Tirant lo Blanch, Valencia, 2023.
  • I. Martín Delgado, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, en Revista de Administración Pública, núm. 180, 2009, págs. 353 y ss. (se puede consultar en https://dialnet.unirioja.es/descarga/articulo/3209548.pdf)
  • J. Bone, “Auditoría de Inteligencia Artificial”, en International Dynamic Advisors, 31 de julio de 2020, (se puede consultar en https://www.intedya.com/internacional/2764/noticia-auditoria-de-inteligencia-artificial.html)
  • J. Ponce Solé, “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho Administrativo, núm. 50, 2019 (se puede consultar en INAP: https://laadministracionaldia.inap.es/noticia.asp?id=1509505)
  • J. Ponce Solé, “Reserva de humanidad y supervisión humana de la inteligencia artificial”, en El Cronista del Estado Social y Democrático de Derecho, núm. 100, 2022, págs. 58 y ss.
  • J. Valero Torrijos, “Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración”, en Revista Catalana de Dret Public, núm. 58, 2019, págs. 82 ss. (se puede consultar en https://dialnet.unirioja.es/servlet/articulo?codigo=7005058&orden=0&info=link)
  • L. Cotino Hueso, “Hacia la Transparencia 4.0: el uso de la Inteligencia Artificial y big data para la lucha contra el fraude y la corrupción y las (muchas) exigencias constitucionales”, en C. Ramió (ed.), Repensando la Administración digital y la innovación pública, Instituto Nacional de Administración Pública, Madrid, 2021, págs. 169 y ss.
  • M. E. Gutiérrez David, “Administraciones inteligentes y acceso al código fuente de los algoritmos públicos. Conjurando riesgos de cajas negras decisionales”, en Derecom, núm. 30, 2021, págs. 143 y ss.
  • R. Gómez Padilla, “Comentario al art. 41 LRJSP”, en M. A. Recuerda Girela (ed.), Régimen jurídico del sector público y procedimiento administrativo común, Aranzadi-Thomson-Reuters, Cizur Menor, 2016, págs.1.222 y ss.
  • R. Navarro González, La motivación de los actos administrativos, Aranzadi-Thomson-Reuters, Cizur Menor, 2017, págs. 287 y ss.
  • X. Urios Aparisi e I. Alamillo Domingo, La actuación administrativa automatizada en el ámbito de las Administraciones públicas. Análisis jurídico y metodológico para la construcción y explotación de trámites automáticos, Escola d’Administració Pública de Catalunya, Barcelona, 2011 (se puede consultar en https://eapc.gencat.cat/web/.content/home/publicacions/col_leccio_estudis_de_recerca_digital/3_actuacio_administrativa_automatitzada/alamillo_urios_castellano.pdf)
Data source: Dialnet