Inteligencia artificial fiable

Para garantizar el cumplimiento de la IA fiable se debe evaluar y abordar constantemente siete requisitos a lo largo del ciclo de vida de los sistemas de IA. Pese a que todos estos requisitos tienen la misma importancia, es necesario tener en cuenta el contexto y las tensiones que pueden surgir entre ellos a la hora de aplicarlos en diferentes ámbitos y sectores. Estos requisitos se enumeran a continuación:

1) Acción y supervisión humanas
Los sistemas de IA deberían respaldar la autonomía y la toma de decisiones de las personas, tal como prescribe el principio del respeto de la autonomía humana. Esto exige que los sistemas de IA actúen tanto como facilitadores de una sociedad democrática, próspera y equitativa, apoyando la acción humana y promoviendo los derechos fundamentales, además de permitir la supervisión humana.

2) Solidez técnica y seguridad
Este requisito está estrechamente vinculado al principio de prevención del daño. La solidez técnica requiere que los sistemas de IA se desarrollen con un enfoque preventivo en relación con los riesgos, de modo que se comporten siempre según lo esperado y minimicen los daños involuntarios e imprevistos, evitando asimismo causar daños inaceptables. Lo anterior debería aplicarse también a los cambios potenciales en su entorno operativo o a la presencia de otros agentes (humanos y artificiales), que puedan interactuar con el sistema de manera contenciosa. Además, debería garantizarse la integridad física y mental de los seres humanos.

3) Gestión de la privacidad y de los datos
La privacidad es un derecho fundamental que se ve especialmente afectado por los sistemas de IA, y que guarda una estrecha relación con el principio de prevención del daño. La prevención del daño a la privacidad también requiere una adecuada gestión de los datos, que abarque la calidad y la integridad de los datos utilizados, su pertinencia en contraste con el ámbito en el que desplegarán los sistemas de IA, sus protocolos de acceso y la capacidad para procesar datos sin vulnerar la privacidad.

4) Transparencia
Este requisito guarda una relación estrecha con el principio de explicabilidad, e incluye la transparencia de los elementos pertinentes para un sistema de IA: los datos, el sistema y los modelos de negocio.

5) Diversidad, no discriminación y equidad
Una IA fiable exige que se garantice la inclusión y la diversidad a lo largo de todo el ciclo de vida de los sistemas de IA. Además de tener en cuenta a todos los afectados y garantizar su participación en todo el proceso, también es necesario garantizar la igualdad de acceso mediante procesos de diseño inclusivo, sin olvidar la igualdad de trato. Este requisito está estrechamente relacionado con el principio de equidad.

6) Bienestar social y ambiental
En armonía con los principios de equidad y prevención del daño, es necesario que se tenga en cuenta también a la sociedad en su conjunto, al resto de seres sensibles y al medio ambiente como partes interesadas a lo largo de todo el ciclo de vida de la IA. Es recomendable que se fomente la sostenibilidad y la responsabilidad ecológica de los sistemas de IA, así como impulsar la investigación de soluciones de inteligencia artificial para hacer frente a los temas que suscitan preocupación a escala mundial, como los Objetivos de Desarrollo Sostenible. Lo ideal es que la IA se utilice en beneficio de todos los seres humanos, incluidas las generaciones futuras.

7) Rendición de cuentas
Este requisito complementa los anteriores y se encuentra estrechamente relacionado con el principio de equidad. Exige establecer mecanismos que permitan garantizar la responsabilidad y la rendición de cuentas sobre los sistemas de IA y sus resultados, tanto antes de su implementacion como después de esta.