El Parlamento Europeo aprobó el pasado 13 de marzo, la Ley de Inteligencia Artificial (IA), que garantiza la seguridad y el respeto de los derechos fundamentales al tiempo que impulsa la innovación.
Con 523 votos a favor, 46 en contra y 49 abstenciones, se aprobó el reglamento acordado en las negociaciones con los Estados miembros en diciembre de 2023. En el documento se establecen una serie de obligaciones para la IA en función de sus riesgos potenciales y su nivel de impacto.
Este documento tiene como objetivo proteger: los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que puede representar un alto riesgo.
La ley prohíbe ciertas aplicaciones que se basan en esta tecnología y que atentan contra los derechos de la ciudadanía como son los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial.
También se prohibirán el reconocimiento de emociones en el lugar de trabajo y en las escuelas, los sistemas de puntuación ciudadana, la actuación policial predictiva (cuando se base únicamente en el perfil de una persona o en la evaluación de sus características) y la IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas.
Aplicaciones de IA permitidas por seguridad
El documento aclara que el uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda prohibido a priori, salvo en situaciones muy concretas y bien definidas.
“Los sistemas de identificación biométrica «en tiempo real» solo se podrán emplear si se cumplen una serie de salvaguardias estrictas; por ejemplo, su uso se limita a un período y lugar específicos y cuenta con una autorización judicial o administrativa previa. Entre estos casos pueden figurar la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista”, señala el comunicado del Parlamento Europeo.
Obligaciones que los sistemas de IA y derechos ciudadanos
Por otra parte, se prevén obligaciones claras para otros sistemas de IA de alto riesgo debido a que pueden ser perjudiciales para la salud, la seguridad o para los derechos fundamentales, en áreas como la educación, el empleo, los servicios de salud o la banca, incluso en los procesos democráticos.
El documento aprobado por el parlamento exige que los sistemas deben evaluar y reducir los riesgos, mantener registros de uso, ser transparentes y precisos y contar con supervisión humana. Además, los europeos tendrán derecho a presentar reclamaciones sobre los sistemas de IA y a recibir explicaciones sobre las decisiones que afecten a sus derechos.
Requisitos que deben cumplir
Las aplicaciones o sistemas que se basan en esta tecnología deben cumplir ciertos requisitos de transparencia, respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos.
“Los modelos más potentes que podrían plantear riesgos sistémicos deberán cumplir requisitos adicionales, como realizar evaluaciones de los modelos, analizar y mitigar los riesgos sistémicos e informar sobre los incidentes”.
Imágenes, Audio o video manipulados
Una de las aplicaciones más populares en todo el mundo es la generación de material audiovisual utilizando esta herramienta y que han sido objeto de uso de entretenimiento, con tintes políticos o incluso extorsión, por ello el parlamento europeo estipula que todas las imágenes, contenidos de audio o de vídeo artificiales o manipulados («ultrafalsificaciones») deberán etiquetarse claramente como tales.
“Gracias al Parlamento, se prohibirán en Europa prácticas inaceptables de IA y se protegerán los derechos de los trabajadores y los ciudadanos. La nueva Oficina de IA ayudará a las empresas a respetar las normas antes de que entren en vigor. Nos aseguramos de que los seres humanos y los valores europeos estén en el centro mismo del desarrollo de la IA”, señaló Brando Benifei miembro de la comisión de Mercado Interior.
Aunque se da un paso importante, el Reglamento aún está sujeto a una última comprobación jurídica-lingüística. Su aprobación definitiva está prevista para antes del final de la legislatura que será en junio del 2024.
