La Eurocámara del Parlamento Europeo adoptó el pasado 14 de junio de 2023 su posición negociadora sobre el Reglamento de Inteligencia Artificial por 499 votos a favor, 28 en contra y 93 abstenciones. A partir de las enmiendas aprobadas por el Parlamento Europeo sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial saldrá el texto definitivo del Reglamento. Con esta norma se pretende garantizar que la inteligencia artificial desarrollada y utilizada en Europa se ajuste plenamente a nuestros derechos y valores, respetando requisitos como la supervisión humana, la seguridad, la privacidad, la transparencia, la no discriminación o el bienestar social y medioambiental. Además, la prioridad del Parlamento Europeo es garantizar que los sistemas de inteligencia artificial estén supervisados por personas, en lugar de por la automatización, para evitar resultados perjudiciales.
El Reglamento de Inteligencia Artificial se convertirá, así, en la primera norma integral sobre la inteligencia artificial en el mundo. Se pretende, además, disponer de una definición uniforme de inteligencia artificial diseñada para ser tecnológicamente neutra, de modo que pueda aplicarse a los sistemas de inteligencia artificial del hoy y del mañana.
Nuevas prácticas prohibidas añadidas por el Parlamento Europeo.
Los sistemas de inteligencia artificial que presenten un nivel inaceptable para la seguridad de las personas, como los utilizados para sistemas de puntuación social (por ejemplo, para clasificar a las personas a partir de su comportamiento o características personales), quedarán totalmente prohibidos por este futuro Reglamento de la Inteligencia Artificial. Los eurodiputados del Parlamento Europeo, en sus enmiendas a la Propuesta de Reglamento elaborado por la Comisión Europea, han incluso ampliado la lista propuesta por la Comisión Europea, añadiendo prohibiciones que se refieren a los usos intrusivos y discriminatorios de la inteligencia artificial, como por ejemplo:
- Los sistemas de identificación biométrica remota, en tiempo real, en espacios públicos;
- Los sistemas de identificación biométrica remota, a posteriori, con la única excepción de usos policiales en investigaciones por delitos graves y con autorización judicial;
- Los sistemas de categorización biométrica que utilicen ciertas características identitarias (por ejemplo el género, la raza, la etnia, el estatus de ciudadanía, la religión o la orientación política);
- Los sistemas policiales predictivos (basados en la elaboración de perfiles, la ubicación o el historial delictivo);
- Los sistemas de reconocimiento de emociones por las fuerzas de seguridad, en la gestión de fronteras, los lugares de trabajo o las instituciones de enseñanza; y
- El rastreo indiscriminado de imágenes faciales sacadas de Internet o de circuitos cerrados de televisión para crear bases de datos de reconocimiento facial (que violan los derechos humanos y el derecho a la intimidad).
Inteligencia artificial de alto riesgo
Los eurodiputados del Parlamento Europeo han propuesto también que la clasificación de las aplicaciones de alto riesgo del Reglamento de la Inteligencia Artificial incluya también los sistemas de inteligencia artificial que puedan afectar significativamente al medio ambiente o a la salud, la seguridad o los derechos fundamentales de las personas. Se han añadido a la lista los sistemas de inteligencia artificial utilizados para influir en los votantes y el resultado de las elecciones y en los sistemas de recomendación utilizados por las plataformas de redes sociales.
Los eurodiputados han incluido en el texto del Reglamento obligaciones para los proveedores de modelos fundacionales, que tendrán que garantizar una sólida protección de los derechos fundamentales, la salud y la seguridad y el medio ambiente, la democracia y el Estado de Derecho. Tendrán que evaluar y mitigar los riesgos, cumplir los requisitos de diseño, información y medio ambiente y registrarse en la base de datos de la Unión Europea.
Los modelos de base generativa, como Chat GPT, tendrán que cumplir requisitos adicionales de transparencia, como revelar que los contenidos han sido generados por una inteligencia artificial, diseñar el modelo para evitar que genere contenidos ilegales y publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento.
Apoyar la innovación
Para impulsar la innovación en inteligencia artificial y apoyar a las PYMES, los eurodiputados han añadido al texto del Reglamento de Inteligencia Artificial exenciones para determinadas actividades de investigación y para componentes de inteligencia artificial proporcionados bajo licencias de código abierto. El Reglamento de Inteligencia Artificial promoverá la creación de entornos controlados (sandbox) por parte de las autoridades públicas para probar la inteligencia artificial antes de su despliegue.
Los eurodiputados quieren impulsar el derecho de los ciudadanos a presentar quejas sobre los sistemas de inteligencia artificial y a recibir explicaciones sobre las decisiones basadas en sistemas de inteligencia artificial de alto riesgo que afecten significativamente a sus derechos. Para ello, en sus enmiendas el Parlamento Europeo ha reformado el papel de la Oficina de Inteligencia Artificial de la Unión Europea, que será la encargada de supervisar cómo se aplica el Reglamento de la Inteligencia Artificial.
Una vez finalicen las conversaciones entre el Parlamento y la Comisión Europea sobre el texto final del Reglamento de la Inteligencia Artificial, éste será una realidad.
Contacte con abogados expertos en inteligencia artificial.
