Retos y oportunidades del uso de la inteligencia artificial en las administraciones públicas
La moda de la inteligencia artificial está llegando a las administraciones públicas, a pesar de que lo hace a un ritmo más lento que en otros sectores. Hoy ya hay algunas administraciones públicas que usan la inteligencia artificial en el análisis de datos, la toma de decisiones, la detección de fraudes e irregularidades o la prestación de servicios públicos. El uso de la inteligencia artificial genera numerosos retos a las administraciones públicas que deben abordarse, como por ejemplo la opacidad, los sesgos y la discriminación, la mengua de las garantías en la tramitación de los procedimientos administrativos, la responsabilidad por los daños causados en el uso de la inteligencia artificial o su impacto en la ocupación pública. La inteligencia artificial es uno de los fundamentos de la gobernanza inteligente que debe comprender a todas las personas para contribuir a un desarrollo sostenible.
The trend of artificial intelligence is arriving in public administrations, even if this is happening at a slower pace than in other sectors. Today, there are already some public administrations which use artificial intelligence in data analysis, decision-making, fraud detection and irregularities, and the provision of public services. The use of artificial intelligence creates a number of challenges for public administrations that need to be addressed, such as the current lack of transparency, the biases and discrimination, the decrease in guarantees in the processing of administrative procedures, the responsibility for damages caused by the use of artificial intelligence, and its impact on public employment. Artificial intelligence is one of the foundations of intelligent governance; it must include all people in order to contribute to a sustainable development.
La inteligencia artificial ha sido identificada como una de las cinco tecnologías disruptivas que debe transformar nuestras sociedades en los próximos años (United States Government Accountability Office, 2018, 26) e impulsar el crecimiento económico y el progreso social (Executive Office of the President National Science and Technology Council Committee on Technology, 2016, 3).
La inteligencia artificial persigue atribuir a los ordenadores la capacidad de realizar acciones que serían consideradas como inteligentes si fueran desarrolladas por personas al emular las facultades humanas en máquinas (Kaplan 2017, 1). Hoy en día, la inteligencia artificial ya tiene numerosos usos tanto en el ámbito económico como social mediante aplicaciones tan diversas como la traducción de textos, la conducción de vehículos sin conductor, la producción de bienes por robots o el reconocimiento automático de imágenes.
La moda de la inteligencia artificial también está llegando a las administraciones públicas. Si bien todavía no lo está haciendo con la fuerza de un tsunami, como se ha observado en otros sectores (Partnership for Public Service and IBM Center for The Business of Government, 2018, 1; Valero Torrijos, 2019), no podemos ignorar los usos que la inteligencia artificial ya está teniendo en la toma de decisiones y en la prestación de los servicios públicos. Tampoco podemos ignorar el potencial que puede tener en el funcionamiento de las administraciones públicas en los próximos años. En las siguientes páginas expondremos algunas de las aplicaciones que la inteligencia artificial ya tiene.
Además de los usos que las mismas administraciones públicas pueden hacer de la inteligencia artificial, estas también pueden contribuir significativamente a su impulso. En los últimos años, diferentes instituciones han participado activamente en el impulso del desarrollo de la industria de la inteligencia artificial mediante varias estrategias sobre inteligencia artificial. En esta dirección podemos referirnos a la Comisión Europea, con su comunicación Generar confianza en la inteligencia artificial centrada en el ser humano; al Gobierno de España, con su Estrategia española de I+D+I en Inteligencia Artificial; o el gobierno de la Generalitat de Catalunya, con el Plan estratégico de Inteligencia Artificial CATALONIA.AI. Estos documentos comparten su diagnosis sobre el papel de la inteligencia artificial en el futuro más cercano, definen varios objetivos estratégicos e identifican las aportaciones que pueden hacer las instituciones públicas1.
En particular, una de las contribuciones de las administraciones públicas al desarrollo de la inteligencia artificial es poner a disposición de la industria y de la sociedad sus datos. Al efecto, no podemos pasar por alto que los datos son el nuevo oro o petróleo de siglo XXI (Mayer-Schönberger y Cukier, 2013; The Economist, 2017) sobre el que se basa el desarrollo actual de la inteligencia artificial, y que las administraciones públicas disponen de grandes volúmenes de datos que generan en el desarrollo de su actividad, que pueden alimentar los algoritmos (Commission Staff Working, 2018). Como ha puesto de manifiesto la Comisión Europea, «la innovación basada en los datos es un motor fundamental de crecimiento y empleo que puede impulsar significativamente la competitividad europea en el mercado mundial […]; el uso inteligente de los datos tiene un efecto transformador en todos los sectores de la economía y el sector público» (Comisión Europea, 2018).
Aun así, no podemos menospreciar los riesgos que la extensión de la inteligencia artificial está generando entre las instituciones públicas. Después nos referiremos a ello brevemente. Para responder a estos retos, las administraciones públicas deben adoptar las medidas que más allá de garantizar la seguridad jurídica faciliten la innovación pública con la incorporación de la inteligencia artificial en su funcionamiento. En esta dirección, será necesario que las administraciones públicas no solo incorporen estas tecnologías, sino también que se doten de un marco adecuado que supere la regulación vigente del uso de los medios electrónicos más propio de otros momentos tecnológicos (Valero Torrijos, 2019).
En las próximas páginas expondremos qué oportunidades puede ofrecer la inteligencia artificial a las administraciones públicas y qué retos puede generar su extensión a las mismas. Finalmente, a modo de conclusión, indicaremos el impacto que la inteligencia artificial puede tener en la gestión de las administraciones públicas.
La inteligencia artificial ya está teniendo algunos usos en las administraciones públicas, y en un futuro todavía tendrá un mayor impacto (Eggers et al., 2018, 3) transformando su funcionamiento y la manera cómo desarrolla su actividad (Partnership for Public Service and IBM Center for The Business of Government, 2018, 1).
En la actualidad, las administraciones públicas españolas están medianamente preparadas para incorporar la inteligencia artificial, según el Government Artificial Intelligence Readiness Index 2019, que la sitúa en la posición 36 a escala mundial2. De hecho, no podemos ignorar que su uso todavía es limitado en nuestras administraciones públicas (Maciejewski, 2017).
No obstante, ya encontramos diferentes usos que las administraciones públicas están dando a la inteligencia artificial en su funcionamiento y en la prestación de los servicios públicos. A continuación hacemos una breve referencia a algunos de ellos.
En primer lugar, las administraciones públicas están empleando la inteligencia artificial para analizar los datos que tienen a su disposición. Así, hay administraciones públicas que utilizan algoritmos para predecir el riesgo de incendios en los edificios (Atlanta) o en los bosques (Ministerio de Agricultura), para identificar los locales que deben ser inspeccionados (Las Vegas o Chicago), o policías que usan algoritmos para detectar denuncias falsas (Predipol).
En segundo lugar, las administraciones públicas utilizan el procesamiento del lenguaje natural y los algoritmos de aprendizaje automático para relacionarse con la ciudadanía. En esta dirección, hay administraciones públicas que usan sistemas de respuesta automatizada a preguntas formuladas en lenguaje natural, o sistemas de diálogo a partir del reconocimiento de la voz para prestar los servicios de atención, asesoramiento e información a la ciudadanía. Por ejemplo, el U.S. Citizenship and Immigration Services responde a las preguntas formuladas por la ciudadanía mediante un chatbot (Emma), y revisa las solicitudes formuladas por la ciudadanía (portal Federal Business Opportunities).
En tercer lugar, las administraciones públicas usan la inteligencia artificial para personalizar los servicios públicos. Así, algunas administraciones públicas están empezando a trabajar en la personalización de los servicios públicos a partir de la elaboración de perfiles sobre el comportamiento de los usuarios y el análisis de los datos personales de la ciudadanía (por ejemplo, el proyecto MyGov Social del Consorci Administració Oberta de Catalunya).
En cuarto lugar, las administraciones públicas ya están empezando a utilizar la inteligencia artificial en el proceso de toma de decisiones para respaldar, por ejemplo, a la policía mediante sistemas de predicción (Predpol) o a los responsables de prisiones para determinar los permisos de salida o la libertad condicional de los reclusos (RisCanvi). Así como también para tomar decisiones, como por ejemplo el otorgamiento de subvenciones o la evaluación del profesorado de las escuelas públicas (Nueva York).
En quinto lugar, las administraciones públicas también usan la inteligencia para detectar fraudes y casos de corrupción. Como ejemplos, podemos referirnos a la herramienta de lucha contra el fraude de la Oficina Nacional de Lucha contra el Fraude del Organismo Autónomo de la Inspección de Trabajo y Seguridad Social y Ocupación, o al sistema de alertas contra la corrupción de la Administración de la Comunidad Valenciana.
Finalmente, la inteligencia artificial también es el fundamento de la prestación de determinados servicios públicos, como por ejemplo el transporte, la seguridad, la sanidad o los servicios sociales.
El uso de la inteligencia artificial genera numerosos retos a las administraciones públicas.
En primero lugar, las administraciones públicas deben garantizar la transparencia de los algoritmos. Al respecto, no podemos ignorar que la inteligencia artificial puede generar opacidad en las administraciones públicas (Cerrillo Martínez, 2019). En efecto, a medida que se incrementa la complejidad técnica de la inteligencia artificial (por ejemplo, mediante el aprendizaje automático –machine learning– o las redes neuronales), es más complejo, si no imposible, conocer cómo funcionan los algoritmos o qué datos utilizan, dando lugar a lo que se conoce como las cajas negras, black boxes (Diakopoulos, 2014, 14; Pasquale, 2015). Además, en ocasiones la opacidad del algoritmo se debe a la voluntad de reservar su contenido para proteger otros intereses, como por ejemplo los secretos empresariales de sus diseñadores o la competitividad de sus productores (Brauneis y Goodman, 2017), y también para evitar que el conocimiento de cómo funciona el algoritmo permita eludir su aplicación o para garantizar la confidencialidad en la toma de decisiones públicas. Para dar respuesta a la opacidad, las administraciones públicas pueden adoptar diferentes medidas, como publicar información sobre los algoritmos y su funcionamiento, o utilizar software abierto en su diseño, o declararlo de fuentes abiertas. En última instancia, pueden dar una explicación sobre cómo funcionan los algoritmos y los datos que usan, y una motivación de los resultados obtenidos (Lepri et al., 2017).
En segundo lugar, las administraciones públicas deben reducir el impacto negativo que el uso de la inteligencia artificial puede tener en la protección de los datos personales y en la privacidad de las personas (Crawford y Schultz, 2014, 96). Las administraciones públicas pueden usar los algoritmos para tomar decisiones automatizadas y elaborar perfiles de las personas sin su consentimiento o su conocimiento. Para evitar los perjuicios que estas actuaciones pueden generar, el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos) reconoce el derecho de toda persona a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en ella o le afecte significativamente de manera similar, excepto cuando esté autorizado por el Derecho de la Unión o de los estados miembros, que se aplique al responsable del tratamiento y que establezca así mismo medidas adecuadas para salvaguardar los derechos y las libertades y los intereses legítimos del interesado, o se base en el consentimiento explícito del interesado (Edwards y Veale, 2017; Wachter et al., 2017)3.
En tercer lugar, las administraciones públicas deben evitar los sesgos y las discriminaciones en las decisiones que toman. No podemos ignorar que en los últimos años hemos tenido conocimiento de casos de discriminación generados por algoritmos utilizados por aplicaciones como Google Photos o Twitter4. Los sesgos y las discriminaciones pueden estar en los algoritmos, o pueden surgir por datos usados que no tienen la calidad necesaria o que contienen errores. Para evitar estas situaciones, las administraciones públicas pueden adoptar medidas diversas, como por ejemplo garantizar la calidad de los datos que se utilizan, fomentar la participación de los interesados en el diseño de los algoritmos, elaborar análisis de riesgos o realizar auditorías (Lepri, Oliver, Letouzé, Pentland y Vinck, 2017, 8; Mantelero, 2018).
En cuarto lugar, las administraciones públicas deben reforzar las garantías de los interesados en la toma de decisiones basadas en algoritmos, particularmente cuando nos encontramos ante decisiones discrecionales. En este sentido, Ponce reclama que, por razones de oportunidad, se reserve la toma de determinadas decisiones a los humanos, que se haga una reserva de humanidad (Ponce Solé, 2019).
En quinto lugar, las administraciones públicas deben aclarar el régimen de responsabilidad por los daños que pueda generar el uso de la inteligencia artificial. Al respecto, no podemos ignorar el debate entre los juristas sobre quiénes deben reparar los daños causados por robots u otras máquinas basadas en la inteligencia artificial. En el ámbito administrativo, buena parte de los problemas detectados no tienen lugar por el carácter objetivo de la responsabilidad patrimonial, a pesar de las necesarias limitaciones en la aplicación de este régimen cuando los daños generados por los algoritmos no se hayan podido prever o evitar según el estado de los conocimientos de la ciencia o de la técnica existentes en el momento de su producción, o cuando haya una concurrencia de causas.
En última instancia, las administraciones públicas deben reflexionar sobre el impacto que el uso de la inteligencia artificial tendrá en la ocupación pública. Al respecto, debe tenerse presente que varios estudios ya indican que el 47% de los trabajos actuales están en alto riesgo de ser automatizados en los próximos 10 o 20 años por la incorporación de la inteligencia artificial (Frey y Osborne, 2017, 38), lo que puede provocar que en la Administración pública acaben desapareciendo numerosos puestos de trabajo en áreas muy diversas, aunque también se generarán nuevas profesiones (Kaplan, 2017, 120-121), se reforzarán determinadas competencias de las personas y se exigirán nuevos perfiles profesionales (Ramió Matas, 2018, 403-404) lo que requerirá nuevos sistemas de selección y de gestión (Galindo Caldés, 2019).
La inteligencia artificial puede contribuir activamente a mejorar el análisis de los datos que genera la actividad de las administraciones públicas para incrementar la calidad de la toma de decisiones públicas y la eficacia de las políticas públicas, así como para mejorar la prestación de los servicios públicos.
La inteligencia artificial es uno de los fundamentos de la gobernanza inteligente, un nuevo modelo de gestión pública que persigue que las administraciones públicas puedan servir a la ciudadanía de manera más rápida y precisa (Executive Office of the President National Science and Technology Council Committee on Technology, 2016, 5). Este modelo de gestión pública debe permitir a las administraciones públicas mejorar su actuación y establecer nuevos canales de relación con la ciudadanía y las empresas para obtener mejores resultados y mayor apertura y rendición de cuentas mediante el análisis y el uso de la información que está en su poder (Cerrillo Martínez, 2018).
Para que las aportaciones de la inteligencia artificial a las administraciones públicas sean el fundamento de una auténtica transformación, hay que garantizar que comprendan a todas las personas para que la inteligencia artificial pueda contribuir activamente a la construcción de un desarrollo sostenible (United Nations Secretary-General’s Independient Expert Advisory Group on a Data Revolution for Sustainable Development, 2014). A la vez, es necesario que se adopten las medidas oportunas para garantizar la seguridad, jurídica y técnica, en un contexto de innovación (Valero Torrijos, 2019).
BRAUNEIS, R.; GOODMAN, E. P. (2017). «Algorithmic Transparency for the Smart City». Yale Journal of Law & Technology. Núm. 20, pág. 104-176. https://doi.org/10.2139/ssrn.3012499
CERRILLO I MARTÍNEZ, A. (2018). «Datos masivos y datos abiertos para una gobernanza inteligente». El profesional de la información. Vol. 27, núm. 5, pág. 1128-1135.
CERRILLO I MARTÍNEZ, A. (2019). «Com obrir les caixes negres de les Administracions públiques? Transparència i rendició de comptes en l’ús dels algoritmes. Revista catalana de dret públic. Núm. 56, pág. 13-28. https://doi.org/10.3145/epi.2018.sep.16
COMISIÓN EUROPEA (2018). Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones. Hacia un espacio común europeo de datos. COM (2018) 232 final.
COMMISSION STAFF WORKING (2018). Document Impact Assessment accompanying the document Proposal for a Directive of the European Parliament and of the Council on the re-use of public sector information. COM (2018) 234 final - SWD (2018) 128 final.
CRAWFORD, K.; SCHULTZ, J. (2014). «Big Data and Due Process: Toward a Framework to Redress Predictive Privacy Harms». Boston College Law Review. Núm. 55, pág. 93-128.
DIAKOPOULOS, N. (2014). «Algorithmic-Accountability: the investigation of Black Boxes». Tow Center for Digital Journalism.https://doi.org/10.1080/21670811.2014.976411
EDWARDS, L.; VEALE, M. (2017). «Slave to the Algorithm: Why a Right to an Explanation Is Probably Not the Remedy You Are Looking For». Duke Law & Technology Review. Núm. 16, pág. 18-84. https://doi.org/10.31228/osf.io/97upg
EGGERS, W. D.; SCHATSKY, D; VIECHNICKI, P. (2018). Al-augmented government. Using cognitive technologies to redesign public sector work. Nueva York.
EXECUTIVE OFFICE OF THE PRESIDENT NATIONAL SCIENCE AND TECHNOLOGY COUNCIL COMMITTEE ON TECHNOLOGY (2016). Preparing for the Future of Artificial Intelligence. Washington.
FREY, C. B.; OSBORNE, M. A. (2017). «The future of employment: how susceptible are jobs to computerisation?».Technological forecasting and social change. Núm. 114, pág. 254-280. https://doi.org/10.1016/j.techfore.2016.08.019
GALINDO CALDÉS, R. (2019). «Big data e inteligencia artificial en la gestión de los recursos humanos del sector público». Revista catalana de dret públic. Núm. 58, pág. 49-63.
KAPLAN, J. (2017). Inteligencia artificial. Lo que todo el mundo debe saber. Zaragoza: Teell.
LEPRI, B.; OLIVER, N.; LETOUZÉ, E.; PENTLAND, A. et al. (2017). «Fair, Transparent, and Accountable Algorithmic Decision-making Processes». Philosophy & Technology. Vol. 31, núm. 3, pág. 1-17. https://doi.org/10.1007/s13347-017-0279-x
MACIEJEWSKI, M. (2017). «To do more, better, faster and more cheaply: using big data in public administration». International Review of Administrative Sciences. Núm. 83, pág. 120-135. https://doi.org/10.1177/0020852316640058
MANTELERO, A. (2018). «Al and Big Data: A blueprint for a human rights, social and ethical impact assessment».Computer Law & Security Review. Vol. 34, núm. 4, pág. 754-772. https://doi.org/10.1016/j.clsr.2018.05.017
MAYER-SCHÖNBERGER, V.; CUKIER, K. (2013). Big data. La revolución de los datos masivos. Madrid: Turner.
PARTNERSHIP FOR PUBLIC SERVICE AND IBM CENTER FOR THE BUSINESS OF GOVERNMENT (2018). The Future Has Begun. Using Artificial Intelligence to Transform Government. Washington.
PASQUALE, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information.Cambridge: Harvard University Press. https://doi.org/10.4159/harvard.9780674736061
PONCE SOLÉ, J. (2018). «Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico». Revista General de Derecho Administrativo. Núm. 50.
RAMIÓ MATAS, C. (2018). «El impacto de la inteligencia artificial y de la robótica en el empleo público». GIGAPP Estudios / Working Papers. Núm. 98, pág. 401‐421.
THE ECONOMIST (2017). «Data is giving rise to a new economy. How is it shaping up?».
UNITED NATIONS SECRETARY-GENERAL’S INDEPENDIENT EXPERT ADVISORY GROUP ON A DATA REVOLUTION FOR SUSTAINABLE DEVELOPMENT (2014). A World That Counts: Mobilising The Data Revolution for Sustainable Development.
UNITED STATES GOVERNMENT ACCOUNTABILITY OFFICE (2018). Trends affecting Government and Society. Washington.
VALERO TORRIJOS, J. (2019). «Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración». Revista catalana de dret públic. Núm. 58, pág. 82-96.
WACHTER, S.; MITTELSTADT, B.; FLORIDI, L. (2017). «Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation». International Data Privacy Law. Vol. 7, núm. 2, pág. 76-99. https://doi.org/10.1093/idpl/ipx005
- Documentos accesibles en: https://ec.europa.eu/transparency/regdoc/rep/1/2019/ES/COM-2019-168-F1-ES-MAIN-PART-1.PDF; http://www.ciencia.gob.es/stfls/MICINN/Ciencia/Ficheros/Estrategia_Inteligencia_Artificial_IDI.pdf[Consulta julio de 2019].
- https://www.oxfordinsights.com/ai-readiness2019 [Consulta: julio de 2019]. De todos modos, no podemos ignorar que en la edición de 2017 España estaba situada en la posición 12.
- Artículo 22 Reglamento general de protección de datos.
- Nos referimos a casos como los de la noticia «Google arregla su algoritmo “racista” borrando a los gorilas» en El País, 15 de enero de 2018, en la que se explica que el algoritmo de Google Photos confundía personas negras con simios; o «Microsoft retira un robot que hizo comentarios racistas en Twitter» en El País, 24 de marzo de 2016, en la que se informa sobre el chatbot Tay de Twitter, que aprendió conductas racistas, sexistas y xenófobas de otros usuarios.
CERRILLO MARTÍNEZ, Agustí. Retos y oportunidades del uso de la inteligencia artificial en las administraciones públicas. Oikonomics[en línea]. Noviembre 2019, no. 12, pp. 1-7. ISSN: 2339-9546. DOI: https://doi.org/10.7238/o.n12.1913
ODS
Agustí Cerrillo i MartínezCatedrático de Derecho administrativo en la Universitat Oberta de Catalunya. Actualmente es el Síndic de Greuges de la UOC.
Investigador principal del proyecto «Retos jurídicos del uso de datos masivos para el fomento de la innovación y la buena administración a través de la inteligencia artificial». Programa Estatal de I+D+I Orientada a los Retos de la Sociedad (DER2017-85595-R), y del proyecto «La innovación en la prestación de los servicios públicos a través de la personalización y prestación proactiva mediante el uso datos masivos y la inteligencia artificial», financiando por la Escuela de Administración Pública de Catalunya.
Ha investigado y publicado artículos y monografías sobre la administración electrónica, la transparencia pública y la difusión y la reutilización de información pública mediante internet, el uso de la inteligencia artificial en las administraciones públicas, la gobernanza pública y la integridad pública y la prevención de la corrupción.
Entre sus publicaciones sobre el impacto de la inteligencia artificial en la Administración pública y el Derecho administrativo destacan «Com obrir les caixes negres de les Administracions públiques? Transparència i rendició de comptes en l’ús dels algoritmes» (Revista catalana de dret públic, núm. 56, 2019), y «El impacto de la inteligencia artificial en el Derecho administrativo ¿Nuevos conceptos para nuevas realidades técnicas?» (Revista General de Derecho Administrativo, núm. 50, 2019).
