El Laboratorio del Foro Digital de Eurocities, en colaboración con las ciudades de Barcelona, Amsterdam, Eindhoven, Mannheim, Bolonia, Bruselas y Sofía, acaba de desarrollar un modelo de «registro de algoritmos», con el fin de proporcionar y garantizar transparencia algorítmica sobre el uso de algoritmos de inteligencia artificial en los ayuntamientos.
Para llevar a cabo dicho propósito, se ha creado el denominado «Algorithmic Transparency Standard» (estándar de transparencia algorítmica), un modelo que puede ser utilizado por los ayuntamientos para ayudar a las personas a comprender cómo funcionan y para qué se utilizan los algoritmos de inteligencia artificial en las ciudades. Este modelo también permite comparar los diferentes algoritmos utilizados dentro de una misma ciudad y con otras ciudades. Puede consultarse el modelo en el siguiente enlace: https://www.algorithmregister.org/standard.
El modelo presenta una serie de categorías de información que las ciudades deben facilitar sobre sus algoritmos. Al utilizar las mismas categorías «estándar» en muchas ciudades, la información sobre los algoritmos puede compararse y comprenderse más fácilmente. Tanto hacer pública la información como hacerla comparable contribuyen a conseguir esa transparencia algorítmica.
A este modelo de transparencia algorítmica se van a incorporar las siguientes informaciones:
- Información básica. Aquí se incluye el nombre coloquial utilizado para identificar al algoritmo, la descripción de la finalidad que tiene el algoritmo en cuestión, quién es la organización responsable de su uso, incluyendo el nombre del departamento, la división, el programa y el equipo que lo utiliza, así como los correos electrónicos de contacto, la zona geográfica en la que se emplea, el ámbito de aplicación del algoritmo, la URL donde se registra y el estado de su uso.
- Casos de uso. Se incluyen los procesos de toma de decisiones concretos que afectan al algoritmo (como normas, leyes, reglamentos o políticas concretas), cuáles son los objetivos políticos que se pretenden alcanzar con el uso del algoritmo, cuál es el impacto de su aplicación en las personas, cuál es la clasificación del algoritmo utilizado dentro de una categoría de riesgo (por ejemplo, inaceptable, de riesgo alto, de riesgo reducido y de riesgo mínimo), una explicación de por qué es necesario el algoritmo y por qué los beneficios de su implementación superan a los posibles daños causados y, finalmente, la base legal que justifica su uso.
- Datos. Esta información se refiere a los datos de entrenamiento que se utilizan para entrenar al algoritmo y la finalidad con la que se incorporó cada fuente de datos. También se incluyen los datos de origen, es decir, cuáles son los datos procesados por el algoritmo, la finalidad con la que se han añadido y las posibles dependencias que se derivan de ello. Se incluye también información sobre el sesgo de los datos, esto es, si los datos contienen algún sesgo y cómo se ha compensado, de contenerlos. En este punto también hay que resumir los puntos clave sobre la evaluación de impacto en materia de protección de datos realizada, y proporcionar una explicación de cómo se previene la discriminación cuando se utilizan datos sobre la etnia, el sexo o el código postal.
- Algoritmos. Hay que describir el tipo de algoritmo usado (si es de aprendizaje automático, basado en reglas o híbrido), cómo es el funcionamiento interno del algoritmo, cómo se procesan los datos y se alimenta para la toma de decisiones. También se incluye aquí los métodos o modelos que utiliza el algoritmo, cuál es su rendimiento y otras alternativas consideradas al algoritmo.
- Supervisión. Se debe proporcionar una descripción sobre quién y cómo se supervisa el rendimiento esperado del algoritmo y cuáles son sus usos (descriptivo, de diagnóstico, predictivo o prescriptivo). Debe describirse la intervención humana que hay en los resultados del algoritmo y la responsabilidad por dicha actuación, y cómo los afectados pueden oponerse al resultado del algoritmo y si se pueden revertir sus efectos.
- Metadatos. Los metadatos vienen referidos a los datos de registro del algoritmo (como su idioma, la fecha de publicación, su identificador, la fecha última de cambios o palabras clave utilizadas).
Este estándar de transparencia algorítmica creado por el Laboratorio del Foro Digital Eurocities pretende ayudar a las ciudades europeas a proporcionar información clara sobre las herramientas algorítmicas que utilizan y por qué las utilizan. Es un paso más para lograr una inteligencia artificial ética y fiable en las administraciones públicas, que garantice transparencia y fiabilidad a los ciudadanos que son objeto de sus decisiones.
Contacte con abogados especializados en inteligencia artificial.
