Sistemas automatizados de toma de decisiones en el Derecho Administrativo Español.

  1. Gamero Casado, Eduardo 1
  1. 1 Universidad Pablo de Olavide (Dpto. Derecho Público)
Revista:
Revista General de Derecho Administrativo

ISSN: 1696-9650

Año de publicación: 2023

Número: 63

Tipo: Artículo

DIALNET GOOGLE SCHOLAR

Otras publicaciones en: Revista General de Derecho Administrativo

Resumen

La legislación española sobre actuación administrativa automatizada es una de las más avanzadas del mundo. Fue promulgada en 2007 y se ha mantenido sin cambios en la Ley de Procedimiento Administrativo de 2015. En la actualidad, más de un tercio del sector público español utiliza estos sistemas. Subsisten algunos problemas de cumplimiento del Derecho administrativo general, como el derecho de subsanación de las solicitudes, el derecho a presentar alegaciones frente a una propuesta antes de que se dicte una resolución denegatoria, la motivación de las resoluciones automatizadas o la transparencia de la programación. Pero a pesar de que cada día se adoptan miles de decisiones automatizadas, los litigios en este ámbito han sido hasta ahora meramente anecdóticos. En este trabajo se describen los requisitos establecidos por la legislación española para la implementación de los sistemas automatizados de toma de decisiones utilizados por la Administración Pública: su necesidad de aprobación previa de forma expresa, la auditoría del sistema, la firma electrónica de las decisiones, etc.; y los aspectos críticos que aún subsisten en la materia.

Referencias bibliográficas

  • A. Boix Palop, "Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración para la toma de decisiones", en Revista de Derecho Público: Teoría y Método, vol. 1, 2020, págs. 223 y ss. (se puede consultar en https://doi.org/10.37417/RPD/vol_1_2020_33)
  • A. Cerrillo Martínez, “Actividad administrativa automatizada y utilización de algoritmos”, en F. Castillo Blanco, S. Fernández Ramos y J. M. Pérez Monguió (eds.), Las políticas de buen Gobierno en Andalucía (I): Digitalización y transparencia, Instituto Andaluz de Administración Pública, Sevilla, 2022, págs. 259 y ss. (se puede consultar en https://www.juntadeandalucia.es/institutodeadministracionpublica/publico/libros/politicasBuenGobiernoI/)
  • A. Cerrillo Martínez, “Automatización e inteligencia artificial”, en I. Martín Delgado, El procedimiento administrativo desde la perspectiva de la innovación tecnológica, Iustel-IVAP, Madrid, 2020, págs. 389 y ss.
  • A. Cerrillo Martínez, “El impacto de la inteligencia artificial en las Administraciones Públicas: estado de la cuestión y una agenda”, en A. Cerrillo Martínez y M. Peguera Poch, Retos jurídicos de la inteligencia artificial, Aranzadi-Thomson-Reuters, Cizur Menor, 2020, págs. 83 y ss.
  • A. Cerrillo Martínez, “Robots, asistentes virtuales y automatización de las administraciones públicas”, en Revista Galega de Administración Pública, núm. 61, 2021, págs. 271 ss. (se puede consultar en https://egap.xunta.gal/revistas/REGAP/article/view/4791)
  • A. Cerrillo Martínez: “¿Son fiables las decisiones de las Administraciones públicas adoptadas por algoritmos?”, en European Review of Digital Administration & Law, vol. 1, núms.1-2, 2020, págs. 31 y ss. Se puede consultar en http://www.aracneeditrice.it/pdf2/97888255389603.pdf
  • A. D. Berning Prieto, Validez e invalidez de los actos administrativos en soporte electrónico, Aranzadi-Thomson-Reuters, Cizur Menor, 2019, págs. 267 y ss.
  • A. D. Berning-Prieto, “La naturaleza jurídica de los algoritmos”, en E. Gamero Casado (ed.), Inteligencia artificial en el sector público. Retos, límites y medios, Tirant lo Blanch, Valencia, 2023.
  • A. Huergo Lora, “Una aproximación a los algoritmos desde el Derecho administrativo", en A. Huergo Lora, La regulación de los algoritmos, Aranzadi-Thomson-Reuters, Cizur Menor, 2020, págs. 64 y ss.
  • A. Soriano Arnanz, “Decisiones automatizadas y discriminación: aproximación y propuestas generales”, en Revista General de Derecho Administrativo, núm. 56, 2021 (también en línea, INAP en https://laadministracionaldia.inap.es/noticia.asp?id=1511706)
  • A. Soriano Arnanz, “Decisiones automatizadas: problemas y soluciones jurídicas. Más allá de la protección de datos”, en Revista de Derecho Público: Teoría y Método, vol. 3, 2021, págs. 85 y ss. (se puede consultar en http://www.revistasmarcialpons.es/revistaderechopublico/article/view/535)
  • A. Zlotnik: “Inteligencia Artificial en las Administraciones Públicas: definiciones, evaluación de viabilidad de proyectos y áreas de aplicación”, Boletic, n.º 84, 2019, pp.24 ss, https://www.astic.es/sites/default/files/articulosboletic/b84_monografico4_alexander_zlotnik_v2-2.pdf
  • C. del Castillo, “Las víctimas denuncian fallos en VioGén, el algoritmo contra la violencia de género”, en elDiario.es, 9 de marzo de 2022. Se puede consultar en https://www.eldiario.es/tecnologia/victimas-denuncian-fallos-viogen-algoritmo-violencia-genero_1_8815201.html
  • D. Terrón Santos y J. L. Domínguez Álvarez, i-Administración pública, sistemas algorítmicos y protección de datos, Iustel, Madrid, 2022.
  • E. Gamero Casado, “Compliance (o cumplimiento normativo) de desarrollos de Inteligencia Artificial para la toma de decisiones administrativas”, en Diario La Ley (Wolters Kluwer), núm. 50, Sección Ciberderecho, 19/04/2021 (se puede consultar en https://diariolaley.laleynext.es/Content/Documento.aspx?params=H4sIAAAAAAAEAMtMSbF1CTEAAmMjUyMzC7Wy1KLizPw8WyMDI0MDE0NTtbz8lNQQF2fb0ryU1LTMvNQUkJLMtEqX_OSQyoJU27TEnOJUtdSk_PxsFJPiYSYAAPsOzuljAAAAWKE)
  • E. Gamero Casado, “Necesidad de motivación e invalidez de los actos administrativos sustentados en inteligencia artificial o en algoritmos”, Almacén de Derecho, 04 de febrero de 2021. Consultar en https://almacendederecho.org/necesidad-de-motivacion-e-invalidez-de-los-actos-administrativos-sustentados-en-inteligencia-artificial-o-en-algoritmos
  • E. Gamero Casado, “Reflexiones introductorias: de la administración electrónica a la digital (o la historia interminable)”, en A. Cerrillo Martínez (dir.), La Administración Digital, Dykinson, Madrid, 2022, págs. 36 y ss.
  • E. Kazim, D. Mendes, T. Denny y A. Koshiyama: “AI auditing and impact assessment: according to the UK information commissioner’s office”, AI Ethics, 2021, https://doi.org/10.1007/s43681-021-00039-2
  • E. Moss, E.A. Watkins, J. Metcalf y M. C. Elish: “Governing with Algorithmic Impact Assessments: Six Observations”, 24/4/2020, https://dx.doi.org/10.2139/ssrn.3584818
  • F. J. Bauzá Martorell, “Identificación, autenticación y actuación automatizada de las Administraciones públicas”, en E. Gamero Casado (ed.), Tratado de procedimiento administrativo común y régimen jurídico básico del sector público, vol. 1, Tirant lo Blanch, Valencia, 2017, págs. 787 y ss.
  • I Criado, J. Valero y J. Villodre, “Algorithmic transparency and bureaucratic discretion: The case of SALER early warning system”, en Information Polity, vol. 25, núm. 4, 2020, pág. 452 (se puede consultar en https://dl.acm.org/doi/abs/10.3233/IP-200260)
  • I. Martín Delgado, “La aplicación del principio de transparencia a la actividad administrativa algorítmica”, en E. Gamero Casado (ed.), Inteligencia artificial en el sector público. Retos, límites y medios, Tirant lo Blanch, Valencia, 2023.
  • I. Martín Delgado, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, en Revista de Administración Pública, núm. 180, 2009, págs. 353 y ss. (se puede consultar en https://dialnet.unirioja.es/descarga/articulo/3209548.pdf)
  • J. Bone, “Auditoría de Inteligencia Artificial”, en International Dynamic Advisors, 31 de julio de 2020, (se puede consultar en https://www.intedya.com/internacional/2764/noticia-auditoria-de-inteligencia-artificial.html)
  • J. Ponce Solé, “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho Administrativo, núm. 50, 2019 (se puede consultar en INAP: https://laadministracionaldia.inap.es/noticia.asp?id=1509505)
  • J. Ponce Solé, “Reserva de humanidad y supervisión humana de la inteligencia artificial”, en El Cronista del Estado Social y Democrático de Derecho, núm. 100, 2022, págs. 58 y ss.
  • J. Valero Torrijos, “Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración”, en Revista Catalana de Dret Public, núm. 58, 2019, págs. 82 ss. (se puede consultar en https://dialnet.unirioja.es/servlet/articulo?codigo=7005058&orden=0&info=link)
  • L. Cotino Hueso, “Hacia la Transparencia 4.0: el uso de la Inteligencia Artificial y big data para la lucha contra el fraude y la corrupción y las (muchas) exigencias constitucionales”, en C. Ramió (ed.), Repensando la Administración digital y la innovación pública, Instituto Nacional de Administración Pública, Madrid, 2021, págs. 169 y ss.
  • M. E. Gutiérrez David, “Administraciones inteligentes y acceso al código fuente de los algoritmos públicos. Conjurando riesgos de cajas negras decisionales”, en Derecom, núm. 30, 2021, págs. 143 y ss.
  • R. Gómez Padilla, “Comentario al art. 41 LRJSP”, en M. A. Recuerda Girela (ed.), Régimen jurídico del sector público y procedimiento administrativo común, Aranzadi-Thomson-Reuters, Cizur Menor, 2016, págs.1.222 y ss.
  • R. Navarro González, La motivación de los actos administrativos, Aranzadi-Thomson-Reuters, Cizur Menor, 2017, págs. 287 y ss.
  • X. Urios Aparisi e I. Alamillo Domingo, La actuación administrativa automatizada en el ámbito de las Administraciones públicas. Análisis jurídico y metodológico para la construcción y explotación de trámites automáticos, Escola d’Administració Pública de Catalunya, Barcelona, 2011 (se puede consultar en https://eapc.gencat.cat/web/.content/home/publicacions/col_leccio_estudis_de_recerca_digital/3_actuacio_administrativa_automatitzada/alamillo_urios_castellano.pdf)
Fuente de los datos: Dialnet