El uso de sistemas basados en inteligencia artificial por las Administraciones públicasestado actual de la cuestión y algunas propuestas ad futurum para un uso responsable

  1. Berning Prieto, Antonio David 1
  1. 1 Universidad Pablo de Olavide de Sevilla. Departamento de Derecho Público (España – Spain)
Revista:
Revista de Estudios de la Administración Local y Autonómica: Nueva Época

ISSN: 1989-8975

Año de publicación: 2023

Número: 20

Páginas: 165-185

Tipo: Artículo

DOI: 10.24965/REALA.11247 DIALNET GOOGLE SCHOLAR lock_openAcceso abierto editor

Otras publicaciones en: Revista de Estudios de la Administración Local y Autonómica: Nueva Época

Objetivos de desarrollo sostenible

Resumen

El empleo por parte de la administración central, autonómica y local de sistemas basados en inteligencia artificial supone un claro avance y múltiples beneficios relacionados con la eficacia y eficiencia en su funcionamiento, pero va acompañada de múltiples riesgos que se deben gestionar desde la toma de la decisión acerca de su desarrollo o adquisición, hasta su puesta en funcionamiento y durante su ciclo de vida.Dado que tampoco existe en la actualidad una regulación adecuada que proporcione seguridad jurídica y garantice los derechos de los ciudadanos cuando se toman decisiones que les afectan, el presente trabajo pretende tratar ciertas cuestiones que deberán ser objeto de regulación en el futuro para que las administraciones públicas puedan utilizar este tipo de sistemas con las debidas garantías.

Referencias bibliográficas

  • Alamillo Domingo, I. y Urios Aparisi, X. (2007). Los límites a la utilización del sello de órgano por parte de las Administraciones Públicas en la Ley 11/2007 [comunicación presentada a las X Jornadas sobre Tecnologías de la Información para la Modernización de las Administraciones Públicas (TECNIMAP 2007) – Gijón]. Generalidad de Cataluña.
  • Barrio Andrés, M. (2020). Luces y sombras del Estado algorítmico de Derecho. Derecho Digital e Innovación, (5).
  • Barrio Andrés, M., Campos Acuña, C., Alamillo, N., Cuesta, P., Estrelles, A., Fontana, R., de Gaviria, N., Mad, S., Muñoz Lombardía, A., Nava, E., Perea, A., Pérez-Llorca, P., Prado Blanco, A., Remón, J. y Vives, F. (2023). La visión de los expertos. En Informe Break the limits 2023 (The Legal Innovation Report). Fundación Aranzadi La Ley.
  • Berning Prieto, A. D. (2019). Validez e invalidez de los actos administrativos en soporte electrónico. Thomson-Reuters Aranzadi.
  • Berning Prieto, A. D. (2021). La subsanación electrónica en el procedimiento administrativo: una cuestión pendiente de resolver en la jurisprudencia española. European Review of Digital Administration & Law. 2(1), 249-254. https://doi.org/10.53136/979125994243218
  • Berning Prieto, A. D. (2022). Implicaciones de la inteligencia artificial y los algoritmos en el sector público y sus particularidades en la Administración Tributaria. En B. D. Olivares Olivares (coord.), La inteligencia artificial en la relación entre los obligados y la Administración tributaria: retos ante la gestión tecnológica (pp. 23-45). La Ley.
  • Berning Prieto, A. D. (2023). La naturaleza jurídica de los algoritmos. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 95-130). Tirant Lo Blanch.
  • Boix Palop, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones. Revista de Derecho Público: Teoría y Método, (1), 223-270. https://doi.org/10.37417/rpd/vol_1_2020_33
  • Bull, H. P. (2017). Der »vollständig automatisiert erlassene« Verwaltungsakt – Zur Begriffsbildung und rechtlichen Einhegung von »E-Government«. Deutsches Verwaltungsblatt, 132(7), 409-477. https://doi.org/10.1515/dvbl-2017-0705
  • Carloni, E. (2020). IA, algoritmos y Administración pública en Italia. Revista de Internet, Derecho y Política, (30). https://doi.org/10.7238/idp.v0i30.3228
  • Cerrillo Martínez, A. (2019a). El impacto de la inteligencia artificial en el Derecho Administrativo: ¿nuevos conceptos para nuevas realidades técnicas? Revista General de Derecho Administrativo, (50). https://www.iustel.com//v2/revistas/detalle_revista.asp?id_noticia=421172
  • Cerrillo Martínez, A. (2019b). How can we open the black box of public administration? Transparency and accountability in the use of algorithms. Revista Catalana de Dret Públic, (58), 13-28. https://doi.org/10.2436/rcdp.i58.2019.3277
  • Chiariello, A. M. (2022). AI and Public Services: a challenging relationship between benefits, risks and compliance with unavoidable principles. European Review of Digital Administration & Law, 2(2), 185-203. https://doi.org/10.53136/979125994752916
  • COMISIÓN EUROPEA (2021). Propuesta de reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión [COM/2021/206 final]. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=celex%3A52021PC0206
  • Cotino Hueso, L. (2020). «SyRI, ¿a quién sanciono?» Garantías frente al uso de inteligencia artificial y decisiones automatizadas en el sector público y la sentencia holandesa de febrero de 2020. La Ley Privacidad, (4).
  • Cotino Hueso, L. (2022). Transparencia y explicabilidad de la inteligencia artificial y «compañía» (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta. En L. Cotino Hueso y J. Castellanos Claramunt (eds.), Transparencia y explicabilidad de la inteligencia artificial, (pp. 29-70). Tirant Lo Blanch.
  • De la Cueva, J. (2018). Código fuente, algoritmos y fuentes del Derecho. El Notario del Siglo XXI: revista del Colegio Notarial de Madrid, (77), 24-27. https://www.elnotario.es/index.php/hemeroteca/revista-77/opinion/opinion/8382-codigo-fuente-algoritmos-y-fuentes-del-derecho
  • Delgado, A. M. y Oliver, R. (2007). La actuación administrativa automatizada. Algunas experiencias en el ámbito tributario. Revista Catalana de Dret Públic, (35). http://revistes.eapc.gencat.cat/index.php/rcdp/article/view/2533
  • Díaz Calvarro, J. M. (2020). Garantías de los derechos de los obligados tributarios. Los principios de seguridad y transparencia ante el uso de la informática decisional en la Administración tributaria. Anuario de la Facultad de Derecho. Universidad de Extremadura, (36), 219-248. https://doi.org/10.17398/2695-7728.36.219
  • Gallego Córcoles, I. (2023). La contratación de soluciones de inteligencia artificial. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios (pp. 503-567). Tirant Lo Blanch.
  • Gamero Casado, E. (2016). Panorámica de la administración electrónica en la nueva legislación administrativa básica. Revista Española de Derecho Administrativo, (175), 15-27.
  • Gamero Casado, E. (dir.) (2021). La potestad administrativa: concepto y alcance práctico de un criterio clave para la aplicación del Derecho administrativo. Tirant Lo Blanch.
  • Gamero Casado, E. (2022). La Administración facilitadora: el papel de la Administración pública en el nuevo orden socio económico. Revista Andaluza de Administración Pública, (113), 271-291. https://doi.org/10.46735/raap.n113.1355
  • Gamero Casado, E. (2023). Las garantías de régimen jurídico del sector público y del procedimiento administrativo común frente a la actividad automatizada y la inteligencia artificial. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 397-461). Tirant Lo Blanch.
  • González Cabanes, F. y Díaz Díaz, N. (2023). ¿Qué es la Inteligencia Artificial? En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 37-72). Tirant Lo Blanch.
  • Hawking, S. (2018). Breves respuestas a las grandes preguntas. Crítica.
  • Huergo Lora, A. (2020). Una aproximación a los algoritmos desde el Derecho Administrativo. En A. Huergo Lora (dir.) y G. M. Díaz González (coord.), La regulación de los algoritmos, (pp. 23-87). Thomson-Reuters Aranzadi.
  • Loi, M., Mätzener, A., Müller, A. y Spielkamp, M. (2021). Automated Decision-Making Systems in the Public Sector. An Impact Assessment Tool for Public Authorities. Algorithm Watch. https://algorithmwatch.ch/en/adms-impact-assessment-public-sector-algorithmwatch/
  • López Pulido, J. P. (2021). El derecho de acceso a los algoritmos y al código fuente, en la actuación administrativa automatizada y su afectación en las entidades locales. La Administración Práctica: enciclopedia de administración municipal, (11), 43-53.
  • Martín Delgado, I. (2009). Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada. Revista de Administración Pública, (180), 353-386. https://www.cepc.gob.es/publicaciones/revistas/revista-de-administracion-publica/numero-180-septiembrediciembre-2009/naturaleza-concepto-y-regimen-juridico-de-la-actuacion-administrativa-automatizada-2
  • Martín Delgado, I. (2023). La aplicación del principio de transparencia a la actividad administrativa algorítmica. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios, (pp. 131-194). Tirant Lo Blanch.
  • Muñoz Rodríguez, A. B. (2020). El impacto de la inteligencia artificial en el proceso penal. Anuario de la Facultad de Derecho. Universidad de Extremadura, (36), 695-728. https://doi.org/10.17398/2695-7728.36.695
  • Olivares Olivares, B. D. (2022). La teoría de las garantías adecuadas en materia de protección de datos y sus implicaciones respecto de la toma de decisiones automatizadas en la Administración tributaria. En B. D. Olivares Olivares (coord.), La inteligencia artificial en la relación entre los obligados y la Administración tributaria: retos ante la gestión tecnológica (pp. 240-263). La Ley.
  • Parada, R. (1999). Régimen jurídico de las Administraciones Públicas y Procedimiento Administrativo Común (estudio, comentarios y texto de la Ley 30/1992, de 26 de noviembre). Marcial Pons.
  • Ponce Solé, J. (2019). Inteligencia artificial, derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. Revista General de Derecho Administrativo, (50). https://www.iustel.com//v2/revistas/detalle_revista.asp?id_noticia=421176&popup=
  • Ponce Solé, J. (2023). Seres humanos e inteligencia artificial: discrecionalidad artificial, reserva de humanidad y supervisión humana. En E. Gamero Casado (dir.) y F. L. Pérez Guerrero (coord.), Inteligencia artificial y sector público: retos, límites y medios (pp. 195-225). Tirant Lo Blanch.
  • Santamaría Pastor, J. A. (1984). La teoría del órgano en el Derecho Administrativo. Revista Española de Derecho Administrativo (40-41), 43-86.
  • Valero Torrijos, J. (2007). El régimen jurídico de la e-Administración. El uso de medios informáticos y telemáticos en el procedimiento administrativo común (2.ª ed.). Comares.
  • Valero Torrijos, J. (2018). La necesaria reconfiguración de las garantías jurídicas en el contexto de la transformación digital del sector público. En T. de la Quadra-Salcedo y J. L. Piñar Mañas (dirs.), Sociedad Digital y Derecho (pp. 375-396). Ministerio de Industria, Comercio y Turismo.
  • Zlotnik, A. (2019). Inteligencia Artificial en las Administraciones Públicas: definiciones, evaluación de viabilidad de proyectos y áreas de aplicación. Revista de la Asociación Profesional de Cuerpos Superiores de Sistemas y Tecnologías de la Información de las Administraciones Públicas, (84), 24-32. Disponible en: https://www.ciegs.upv.es/wp-content/uploads/2023/06/Inteligencia-Artificial-en-las-Administraciones-definiciones-evaluacion-de-viabilidad-alexander_zlotnik-2019.pdf