Robots y algoritmos: la revolución que ya está aquí

El desarrollo de las nuevas tecnologías ha influido sustancialmente en cómo realizamos muchas de nuestras actividades diarias. Así, entre otras cosas, ha modificado nuestra forma de comunicarnos, de buscar información y archivarla; cómo disfrutamos del tiempo de ocio; e incluso en la forma de desempeñar nuestra actividad laboral (y sino véase la irrupción del teletrabajo). Estamos en una etapa de transición, en medio de una auténtica revolución, la revolución de los datos y del uso de la inteligencia artificial y el reto al que nos enfrentamos será nuestra capacidad de adaptación a esta nueva realidad.

En efecto, entre las grandes tendencias a las que habrá de enfrentarse la Administración, destacan de forma relevante el desarrollo de tecnologías disruptivas y los cambios tecnológicos que impulsan nuevos paradigmas de relación de la ciudadanía con las Administraciones y la reutilización eficiente de información que implicarán, a buen seguro, cambios en el sector público tal y como hoy lo conocemos. A título de ejemplo, el uso de chatbots basados en el procesamiento del lenguaje natural como primera interfaz entre los ciudadanos y las AAPP permite ya -por ejemplo en EEUU- reducir los tiempos de respuesta y aumentar las capacidades de focalizar a los funcionarios públicos en tareas de más valor social.

En cualquier caso, ya se están produciendo, a través de la inteligencia artificial, algunas innovaciones en nuestras formas de producir políticas. Ciertamente, los pioneros son los países anglosajones donde se puede citar el caso de la regulación inteligente o regulatory sandbox o, como destaca Cerrillo y Martínez en el caso de Estados Unidos, la prevención de riesgo de incendio de los edificios (Atlanta) o de riadas (Hampton) o identificar los locales que serán objeto de inspección (Las Vegas, Chicago). También se utiliza el procesamiento del lenguaje natural y los algoritmos de aprendizaje automático para revisar las solicitudes formuladas por los ciudadanos (Portal Federal Business Opportunities), para asignar subvenciones o evaluar profesores (Nueva York), mejora de la gestión pública, por ejemplo, en la gestión del tráfico (Pittsburg) o, por último, a través de chatbots, las administraciones públicas dan respuesta a las preguntas formuladas por la ciudadanía (U.S.Citizenship and Immigration Services).

Pero manifestaciones de esta situación se pueden encontrar en todas partes. En Iberoamérica donde ya se pueden encontrar un grupo relevante de casos, pero también en el caso de nuestros gobiernos locales se pueden encontrar iniciativas y respuestas a los desafíos que ésta plantea como la realizada por el Ayuntamiento de Barcelona para garantizar que los algoritmos de inteligencia artificial (IA) que utiliza y los que vendrán en el futuro funcionen con un “compromiso ético” hacia los ciudadanos.

La cuestión, sin embargo, son las consecuencias jurídicas que su uso implica. Como es conocido, y entre nosotros entre otros ha dado cuenta Cotino Hueso, el Tribunal de Distrito de La Haya dictó una sentencia el 5 de febrero de 2020 que anularía la elaboración de perfiles para la lucha contra el fraude implantada por el Gobierno holandés para “vecindarios problemáticos”, concluyendo el Tribunal que ese criterio puede provocar exclusión, discriminación y estigmatización injustificadas.

En cualquier caso, en Europa en general, y en España en particular, vamos todavía un paso detrás. Es preciso hablar menos y hacer más. Como se ha denunciado por la doctrina más solvente (Poncé Solé, Boix Palop, etc.) el problema se ha traducido como un asunto privado (aunque sea aplicable al sector público): la protección de datos. O todavía peor, en forma defensiva, como acontece en Alemania con el uso de algoritmos en aquello que afecte a los derechos de la ciudadanía. Y, sin embargo, esta realidad que se acerca va mucho más allá. En nuestro caso, las célebres Leyes 39 y 40/2015 son, a pesar de la previsión establecida en el artículo 41 LRJSP, un paso atrás en este concreto aspecto como ya se ha señalado por Valero Torrijos. Del reciente reglamento aprobado (RD 2013/2021), a pesar de constituir el banderazo de salida de la denominada Administración electrónica, sólo se puede decir lo mismo en este concreto aspecto.

1. La inteligencia artificial y los retos que plantea.

La Administración digital, por las anteriores razones, ya no es una opción. La reciente entrada en vigor del RD 203/2021, de 30 de marzo, por el que se aprueba el Reglamento de actuación y funcionamiento del sector público por medios electrónicos, pone de manifiesto que los servicios electrónicos son irrenunciables en la actualidad y lo van a ser todavía más en el futuro próximo. Si, como ha puesto de relieve la Fundación Telefónica (50 estrategias para 2050: el trabajo y la revolución digital en España), se reclama un papel ejemplarizante del sector público, con un uso intensivo de tecnología y aplicación de soluciones a los servicios y retos sociales (compra pública), promoción directa de startups tecnológicas y otras políticas de apoyo, el sector público, ahora como empleador, deberá plantearse qué implica la digitalización en su forma de funcionar y añadir valor en sus procesos de producción de políticas.  Su demanda, por demás, por parte de la ciudadanía será cada vez mayor, aunque es preciso recordar que su implementación no puede de ninguna manera mermar los derechos y garantías de los ciudadanos. Se ha de realizar con la mirada puesta en éstos y no en el sistema burocrático como desgraciadamente tantas veces ocurre digitalizando la burocracia y no simplificando y haciendo accesible los trámites a los ciudadanos.

El mantenimiento y la evolución de los servicios electrónicos, y la incorporación de la inteligencia artificial, y muy especialmente el análisis de datos, a los procesos y procedimientos administrativos, es ahora el mantenimiento y evolución de la propia actividad administrativa que a buen seguro será predominantemente digital y el reto es gestionarlos con la máxima eficiencia dado que el proceso de digitalización de los servicios públicos y la tramitación electrónica de los procedimientos permite también mejorarlos, simplificarlos, estandarizarlos, sistematizarlos y automatizarlos. Y es que, como se pone de relieve en el Plan España Digital 2025, tecnologías como la Inteligencia Artificial, el blockchain, o la explotación de la información a través del big data, nos dirigen hacia una Administración Pública “data-driven”, en la que la personalización de los servicios o conceptos de relación con la ciudadanía como Ciudadano 360º son clave.

En el caso de Europa se aprobó el Libro Blanco sobre la inteligencia artificial – un enfoque europeo orientado a la excelencia y la confianza (COM(2020) 65 final), donde puede leerse que

“la inteligencia artificial es una combinación de tecnologías que agrupa datos, algoritmos y capacidad informática

que permite que las máquinas puedan percibir, comprender, actuar y aprender para ampliar las capacidades humanas produciendo beneficios a los ciudadanos y a las empresas.

Los beneficios mencionados surgirán del empleo de la IA en los servicios de interés público, por ejemplo,

mediante una reducción de los costes de la prestación de servicios (transporte, educación, energía y gestión de los residuos), una mayor sostenibilidad de los productos, o proporcionando a los servicios y fuerzas de seguridad las herramientas adecuadas para que aseguren la protección de los ciudadanos, garantizando correctamente el respeto de sus derechos y libertades”.

El Libro Blanco identifica, al respecto, tres sectores que se verán afectados: el sector público, el sector privado y sector transversal de la investigación.  En lo que se refiere al sector público, señala que objetivo de “promover la adopción de la IA por parte del sector público” y proclama que:

“resulta fundamental que las Administraciones Públicas, los hospitales, los servicios públicos y de transporte, los supervisores financieros y otras áreas de interés público empiecen a adoptar rápidamente productos y servicios que se basen en la inteligencia artificial en sus actividades. Se hará especial hincapié en los sectores de la atención sanitaria y el transporte, en los que la tecnología está suficientemente desarrollada para una adopción a gran escala”. Libro Blanco sobre la Inteligencia Artificial: un enfoque europeo orientado a la excelencia y la confianza [COM(2020) 65 final] 

En el caso español, dicha iniciativa se ha traducido en la aprobación de la “Estrategia Nacional de Inteligencia Artificial”. Se destaca en ésta que la iniciativa permitiría: formular un Plan de Datos Nacional con actualizaciones periódicas; definir una gobernanza, estructura organizativa y procedimientos interministeriales; definir un conjunto de reglamentos, normas y procedimientos alineados con las directivas de la UE; analizar la reutilización y explotación de datos abiertos del sector público; la explotación de los datos abiertos y cerrados utilizando técnicas de IA; ofrecer un punto de contacto para aconsejar a las AAPP en las estrategias a realizar para conocer cómo extraer nuevo conocimiento de los datos utilizando técnicas de IA; ofrecer una formación especializada en IA a los trabajadores públicos para poder sacar el máximo partido a los datos que disponen, y así contribuir a la mejora de las Políticas Públicas; establecer los cauces mediante los cuales las empresas privadas pueden o deben compartir parte de sus datos con la Administración Pública con el objetivo de ofrecer mejores servicios públicos y crear colaboraciones público-privadas en las que se compartan datos que permitan ofrecer servicios innovadores de valor añadido, siempre respetando las regulaciones de privacidad y protección de datos, en beneficio de la ciudadanía y del funcionamiento de las administraciones públicas.

Como sabemos la utilización de la computación no es nueva en el campo de las prestaciones públicas a los ciudadanos. Es frecuente y habitual en el sector público la utilización de tecnología informática para operaciones de cálculo y comprobación. Baste, a estos efectos, referirnos a la Administración tributaria en sus procedimientos de comprobación o para prevenir conductas irregulares en la actuación administrativa en la Generalidad Valenciana. Decisiones, en todo caso, en que la tecnología tan solo tiene una finalidad mecánica y auxiliar y, con ello, sin un impacto decisivo en la arquitectura del mundo jurídico (Valero Torrijos, Cerrillo y Martínez, etc). Lo novedoso, lo que en buena medida puede representar una capacidad transformadora en el sector público, es el increíble y rápido desarrollo de una tecnología que, si bien aún no es equiparable al razonamiento humano, presenta en términos de eficacia una capacidad valorativa y probabilística que incrementa las posibilidades de adoptar una buena (o mejor) decisión. Y esto ya es otra cosa distinta a la meramente auxiliar.

Russell y Norvig, a este respecto, mencionan la «IA débil» y la «IA fuerte». En el primer caso, el de IA débil, se refiere a sistemas autónomos capaces de desarrollar tareas que requieren capacidades humanas sencillas. Por ejemplo: percepción visual, comprensión del contexto, razonamiento probabilístico y tratamiento de la complejidad. En el segundo caso, la IA fuerte se centra en la idea de sistemas autónomos con capacidades e inteligencia superhumanas que emulan la complejidad de la capacidad de los seres humanos para pensar, aprender y desarrollar tareas complejas. Entre nosotros Huergo ha destacado la necesidad de regulación de los algoritmos de tipo predictivo ya que “la historia demuestra que la garantía para los ciudadanos nunca ha estado en la intervención de un humano, sino en el establecimiento de reglas que le vinculen”. Y es esto, precisamente, de lo que aún estamos carentes.

2. De las musas al teatro: el Proyecto de Reglamento Europeo sobre inteligencia artificial.

Si como decíamos todavía vamos un paso atrás en lo que se refiere a abordar los retos que plantea la inteligencia artificial, lo cierto es que el reciente anuncio del Proyecto de Reglamento europeo sobre esta cuestión empieza, con sus luces y sus sombras, a alumbrar una nueva etapa.

La propuesta de la Comisión Europa para regular la inteligencia artificial establece cuatro niveles de riesgo e informa que las normas deberán ser implementadas por todos los Estados Miembros por igual, quedando excluidos de la normativa los usos de la IA a nivel militar.

Las nuevas normas se aplicarán directamente de la misma manera en todos los Estados miembros sobre la base de una definición de IA consistente en un software que, a partir del uso de técnicas matemáticas y de programación, produce resultados que sirven para realizar predicciones, recomendaciones de decisiones futuras, etc. Y sigue un planteamiento basado en el riesgo.

En el primer escalón se sitúan aquellos sistemas que suponen un riesgo inadmisible. De esta forma, la idea es prohibir aquellos sistemas de IA que se consideren una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas. Esto abarca los sistemas o las aplicaciones de IA que manipulan el comportamiento humano para eludir la voluntad de los usuarios (por ejemplo, juguetes que utilicen asistencia oral para sugerir comportamientos peligrosos a los menores o sistemas que permitan la «puntuación social» por parte de los Gobiernos).

En un segundo nivel se sitúan los que se consideran de alto riesgo. Los sistemas de IA considerados de alto riesgo abarcan las tecnologías de IA empleadas en:

  • Infraestructuras críticas (por ejemplo, transportes), que pueden poner en peligro la vida y la salud de los ciudadanos;
  • Formación educativa o profesional, que pueden determinar el acceso a la educación y la carrera profesional de una persona (por ejemplo, puntuación en exámenes);
  • Componentes de seguridad de los productos (por ejemplo, aplicación de IA en cirugía asistida por robots);
  • Empleo, gestión de trabajadores y acceso al trabajo por cuenta propia (por ejemplo, programas informáticos de clasificación de CV para procedimientos de contratación);
  • Servicios públicos y privados esenciales (por ejemplo, sistemas de calificación crediticia que priven a los ciudadanos de la oportunidad de obtener un prestamo);
  • Aplicación de las leyes, que pueden interferir con los derechos fundamentales de las personas (por ejemplo, evaluación de la fiabilidad de las pruebas);
  • Gestión de la migración, el asilo y el control de las fronteras (por ejemplo, comprobación de la autenticidad de los documentos de viaje);
  • Administración de justicia y procesos democráticos (por ejemplo, aplicación de la ley a un conjunto concreto de hechos).

Los sistemas de IA de alto riesgo estarán sujetos a obligaciones estrictas, antes de que puedan comercializarse. En concreto las siguientes:

  • Sistemas adecuados de evaluación y mitigación de riesgos;
  • Alta calidad de los conjuntos de datos que alimentan el sistema para minimizar los riesgos y los resultados discriminatorios;
  • Registro de la actividad para garantizar la trazabilidad de los resultados;
  • Documentación detallada que aporte toda la información necesaria sobre el sistema y su finalidad para que las autoridades evalúen su conformidad;
  • Información clara y adecuada al usuario;
  • Medidas apropiadas de supervisión humana para minimizar el riesgo;
  • Alto nivel de solidez, seguridad y precisión.

En especial, se consideran de alto riesgo y estarán sujetos a requisitos estrictos, todos los sistemas de identificación biométrica remota. Su uso en directo en espacios de acceso público con fines policiales está prohibido en principio. Se definen y regulan estrictamente excepciones estrictas (por ejemplo, cuando sea estrictamente necesario para la búsqueda de un menor desaparecido, para prevenir una amenaza terrorista concreta e inminente, o para detectar, localizar, identificar o enjuiciar a un autor o sospechoso de un delito grave). Asimismo, se consideran dentro de este grupo aquellos que afectan al funcionamiento de infraestructuras críticas

Su uso estará sujeto a la autorización de un órgano judicial u otro organismo independiente y a los límites adecuados desde el punto de vista de la duración, el alcance geográfico y las bases de datos exploradas. Para el resto de éstos -básicamente aquellos que utilizan sistemas de IA predictiva- se sujeta a una especie de declaración responsable basada en el compliance o cumplimiento normativo.

En un tercer nivel se sitúan aquellos sistemas que podríamos calificar de riesgo limitado, en los que la técnica, a efectos de control utilizada, es el establecimiento de obligaciones específicas de transparencia. En este sentido, al utilizar sistemas de IA como robots conversacionales, los usuarios deberán ser conscientes de que están interactuando con una máquina para poder tomar una decisión informada de continuar o no (artículo 41).

Por último, se encuentran aquellos sistemas que supongan un riesgo mínimo o nulo, como pueden ser el uso gratuito de aplicaciones tales como videojuegos basados en la IA o los filtros de correo basura, en que el proyecto de Reglamento se abstiene de intervenir dado que estos sistemas de IA solo representan un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos.

No obstante, y como ha destacado Huergo, la citada regulación no agota los problemas jurídicos que plantea la IA. La responsabilidad, como consecuencia de la utilización de ésta, o su complemento con la protección de datos son algunos que pueden plantearse. Amén de que, como destaca el autor referido, “no es lo mismo utilizarla para automatizar procesos, de forma puramente instrumental (como en las aplicaciones que facilitan las declaraciones tributarias, que son jurídicamente irrelevantes), que usarlas como una ayuda para decidir cuándo se inicia un procedimiento administrativo (un paso más) o para determinar el contenido de una resolución administrativa, lo que exigirá normalmente una habilitación normativa”.

 3. Algunos de los retos pendientes derivados de la utilización de IA que aún quedan por resolver.

Como ya se ha puesto de manifiesto el salto adelante, y por ahora en el vacío, que suponen las nuevas funcionalidades de la IA obligaría a revisar la perspectiva tradicional derivada de la lógica weberiana. Por decirlo de una vez las maquinas, aunque sea de modo incipiente, comienza a pensar y, a la vez, lo hacen con una lógica distinta fundamentada, en gran medida, en el cálculo de probabilidades. No en la subsunción racional que habitualmente utilizamos para alcanzar la solución jurídicamente correcta.

Los problemas que esto plantea, en la medida que la IA avance y se generalice en la toma de decisiones de nuestras Administraciones públicas, van a ser mayúsculos y nos obligan a tener otro ángulo de visión. Ya está ocurriendo de hecho en otros lares respecto de aspectos nucleares de nuestro acerbo jurídico como, a título de ejemplo, la determinación de la presunción de inocencia.

En lo que a la Administración pública respecta, y más específicamente en lo que se refiere a procedimientos y políticas que pueden afectar a garantías y derechos de los ciudadanos, las polémicas que se están planteando son de lo más sugerentes. Desde si debe existir un procedimiento debido para su correcta utilización como ha puesto de relieve Ponce Solé, hasta inclusive si los algoritmos son normas reglamentarias, como ha planteado Boix Palop, con las inevitables consecuencias de dicha calificación en cuanto al procedimiento de elaboración, participación en la misma, evaluación y demás requisitos establecidos hasta la posibilidad de recursos indirectos contra los mismos. La necesaria motivación de los actos administrativos que se sustentan en éstos o la invalidez de los mismos como ha resaltado Gamero Casado, entre otros aspectos, también se han puesto de relieve.

Su impacto no será menor en materia de organización y empleo público. Ya nos hemos referido a ello en otro sitio, pero simplemente basta con que pensemos en materia organizativa en que será necesaria la transformación de nuestras organizaciones administrativas, no a pequeña escala o en pequeños nichos, sino con la necesaria audacia para preparar los que el presente siglo nos deparará.

4. Conclusiones: cambios de paradigma y necesaria respuesta del Derecho.

Las cosas avanzan rápido. Más rápido, inclusive, que nuestra capacidad de comprensión. Y es que, cada día que pasa, llevamos los límites de lo posible un poco más allá. Seguramente esta reflexión preliminar se puede aplicar a variados campos (la biomedicina, la astrofísica, la electrónica, etc.), pero no creo que pueda dudarse que los avances tecnológicos están poniendo en jaque ciertos paradigmas en que hemos asentado, hasta ahora, nuestra forma de producir las políticas públicas. Lo cierto es que la respuesta del Derecho, y más específicamente en lo que me afecta el Derecho Administrativo, a esos cambios suele ser mucho más lenta.  La Administración pública ha perdido en buena medida el liderazgo que la caracterizó hasta el pasado siglo y hoy la innovación, sin perjuicio de relevantes ejemplos en el campo público, se encuentra liderada por el mundo privado.

Específicamente, y en lo que se refiere a esta breve reflexión, la inteligencia artificial está transformando los paradigmas que regían nuestra forma de enfocar numerosos problemas y me temo que el Derecho no ha tomado todavía buena cuenta de ello. En efecto y como hemos apuntado, del paradigma weberiano, de subsunción deductiva de normas abstractas previamente establecidas, empezamos a enfrentarnos a nuevas lógicas, basadas más en cálculos de probabilidades para encontrar solución a muchas de las prestaciones que la Administración pública ofrece a los ciudadanos como ya acontece en la medicina (detección del cáncer a título de ejemplo). Y este cambio de paradigma nos obligará en el mundo jurídico, a buen seguro, a reflexionar más decididamente sobre las instituciones en que asentamos el conjunto de garantías y derechos de la ciudadanía. Y ello aunque lo realicemos, como ha apuntado Gamero, en base al marco constitucional y legal que tenemos hasta tanto se apruebe un marco normativo específico.

Todo ello hace relevante que el Derecho público en general, pero específicamente el Derecho administrativo, tome buena nota de las reflexiones y conclusiones que la Red de Derecho Administrativo e Inteligencia Artificial (DAIA), tras su II Seminario Internacional, realizó recientemente y que marcan un camino ineludible en la lógica en que deberemos desenvolvernos.

Comentarios
  • Juan Carlos Zamora
    Buen pupurrí sacado de otras webs, enhorabuena por su capacidad de copy/paste
  • Mirko Maldonado
    Enhorabuena al profesor Federico Castillo, muy buen artículo! De vital importancia en estos tiempos!
  • Juan Carlos Ramos Rodríguez
    Genial el artículo. Estamos ante un nuevo pider:los datos y su posesión, todo ello como sinonimo de poder real, en definitiva el BIG DATA.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *