Parlamento de la UE ratifica la primera ley de IA del mundo
El Parlamento Europeo aprobó (13/03/2024) la Ley de Inteligencia Artificial que busca garantizar la seguridad y el respeto de los derechos fundamentales al tiempo que impulsar la innovación. Las críticas a esta nueva regulación señalan que la ley no mitiga las preocupaciones por los efectos que puede tener el modelaje algoritmo sobre los derechos fundamentales.
El Reglamento, acordado en las negociaciones con los Estados miembros en diciembre de 2023, fue respaldado por la Eurocámara con 523 votos a favor, 46 en contra y 49 abstenciones. Su objetivo es proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo, impulsando al mismo tiempo la innovación y erigiendo a Europa en líder del sector. El Reglamento fija una serie de obligaciones para la inteligencia artificial (IA) en función de sus riesgos potenciales y su nivel de impacto.
Aplicaciones prohibidas
Las nuevas normas prohíben ciertas aplicaciones de inteligencia artificial que atentan contra los derechos de la ciudadanía, como los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial. También se prohibirán el reconocimiento de emociones en el lugar de trabajo y en las escuelas, los sistemas de puntuación ciudadana, la actuación policial predictiva (cuando se base únicamente en el perfil de una persona o en la evaluación de sus características) y la IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas.
en Europa la consigna absurda de «la mejor ley es la que no existe», tan difundida en América Latina para medios, telecomunicaciones y plataformas digitales, no vale: tienen las leyes más modernas sobre medios, datos personales y privacidad, y concentración de mercados.
— Martín Becerra (@aracalacana) March 13, 2024
Exenciones de las fuerzas de seguridad
El uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda prohibido a priori, salvo en situaciones muy concretas y bien definidas. Los sistemas de identificación biométrica «en tiempo real» solo se podrán emplear si se cumplen una serie de salvaguardias estrictas; por ejemplo, su uso se limita a un período y lugar específicos y cuenta con una autorización judicial o administrativa previa. Entre estos casos pueden figurar la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista. Recurrir a estos sistemas a posteriori se considera un uso de alto riesgo, que requiere autorización judicial al estar vinculado a un delito penal.
Obligaciones para los sistemas de alto riesgo
También se prevén obligaciones claras para otros sistemas de IA de alto riesgo (debido a que pueden ser muy perjudiciales para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho). Algunos ejemplos de usos de alto riesgo de la IA son las infraestructuras críticas, la educación y la formación profesional, el empleo, los servicios públicos y privados esenciales (por ejemplo, la sanidad o la banca), determinados sistemas de las fuerzas de seguridad, la migración y la gestión aduanera, la justicia y los procesos democráticos (como influir en las elecciones). Estos sistemas deben evaluar y reducir los riesgos, mantener registros de uso, ser transparentes y precisos y contar con supervisión humana. Los ciudadanos y ciudadanas tendrán derecho a presentar reclamaciones sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en ellos que afecten a sus derechos.
Requisitos de transparencia
Los sistemas de IA de uso general y los modelos en los que se basan deben cumplir ciertos requisitos de transparencia, respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos. Los modelos más potentes que podrían plantear riesgos sistémicos deberán cumplir requisitos adicionales, como realizar evaluaciones de los modelos, analizar y mitigar los riesgos sistémicos e informar sobre los incidentes.
Además, las imágenes, contenidos de audio o de vídeo artificiales o manipulados («ultrafalsificaciones») deberán etiquetarse claramente como tales.
Medidas de apoyo a la innovación y a las pyme
Habrá que poner a disposición de las pyme y de las empresas emergentes espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional para que puedan desarrollar y entrenar la IA innovadora antes de su comercialización.
Declaraciones de los ponentes
Durante el debate en el pleno el martes, el coponente de la comisión de Mercado Interior Brando Benifei (S&D, Italia) dijo: «Finalmente tenemos la primera ley vinculante del mundo sobre inteligencia artificial, para reducir riesgos, crear oportunidades, combatir la discriminación y aportar transparencia. Gracias al Parlamento, se prohibirán en Europa prácticas inaceptables de IA y se protegerán los derechos de los trabajadores y los ciudadanos. La nueva Oficina de IA ayudará a las empresas a respetar las normas antes de que entren en vigor. Nos aseguramos de que los seres humanos y los valores europeos estén en el centro mismo del desarrollo de la IA».
El coponente de la comisión de Libertades Civiles Dragos Tudorache (Renew, Rumanía) agregó: «La UE ofrece resultados. Hemos vinculado el concepto de inteligencia artificial a los valores fundamentales que constituyen la base de nuestras sociedades. Sin embargo, hay mucho trabajo por delante que va más allá de la propia Ley de IA. La IA nos empujará a repensar el contrato social en el corazón de nuestras democracias, nuestros modelos educativos, los mercados laborales y la forma en que llevamos a cabo la guerra. La Ley de IA es un punto de partida para un nuevo modelo de gobernanza construido en torno a la tecnología. Ahora debemos centrarnos en la aplicación práctica de la legislación».
Próximos pasos
El Reglamento aún está sujeto a una última comprobación jurídica-lingüística. Su aprobación definitiva (mediante el llamado procedimiento de corrección de errores) está prevista para antes del final de la legislatura. La ley también debe ser adoptada formalmente por el Consejo.
Entrará en vigor veinte días después de su publicación en el Diario Oficial y será de plena aplicación veinticuatro meses después de su entrada en vigor, con excepción de: las prohibiciones de prácticas (se aplicarán seis meses después de la fecha de entrada en vigor); los códigos de buenas prácticas (nueve meses después); las normas sobre la IA de uso general, incluida la gobernanza (doce meses después), y las obligaciones para los sistemas de alto riesgo (treinta y seis meses después).
Con información del portal Parlamento Europeo, Deutsche Welle y Público
LEÉ TAMBIÉN
La Unión Europea abraza la ley del algoritmo más fuerte
Entre los puntos negativos de la ley está que se otorga a las empresas la capacidad de definir qué aplicación de la IA será considerada de alto riesgo y cuál no.
MÁS INFO
Libertad de Prensa: una nueva ley para proteger a los periodistas de la Unión Europea y la libertad de prensa
Los eurodiputados dieron el miércoles luz verde final a una nueva legislación para proteger a los periodistas y medios de la UE de interferencias políticas o económicas.
Según la nueva ley, adoptada por 464 votos a favor, 92 en contra y 65 abstenciones, los Estados miembros estarán obligados a proteger la independencia de los medios de comunicación y se prohibirá toda forma de intervención en las decisiones editoriales.
Se prohibirá a las autoridades presionar a periodistas y editores para que revelen sus fuentes, incluso mediante detenciones, sanciones, registros en sus oficinas o instalando software de vigilancia intrusivo en sus dispositivos electrónicos.
El Parlamento añadió importantes salvaguardias para permitir el uso de software espía, que sólo será posible caso por caso y sujeto a la autorización de una autoridad judicial que investigue delitos graves punibles con pena privativa de libertad. Incluso en estos casos, los sujetos tendrán derecho a ser informados después de que se haya producido la vigilancia y podrán impugnarla ante los tribunales.
Para evitar que los medios de comunicación públicos sean utilizados con fines políticos, sus directores y miembros de sus juntas directivas deben ser seleccionados mediante procedimientos transparentes y no discriminatorios para mandatos suficientemente largos. No será posible despedirlos antes de que finalice su contrato, salvo que ya no cumplan los criterios profesionales.
Los medios públicos tendrán que financiarse mediante procedimientos transparentes y objetivos, y la financiación deberá ser sostenible y predecible.
Para que el público sepa quién controla los medios y qué intereses pueden influir en la información, todos los medios de noticias y temas de actualidad, independientemente de su tamaño, tendrán que publicar información sobre sus propietarios en una base de datos nacional, incluso si son propiedad directa o indirecta del gobierno. estado.
Los medios de comunicación también deberán informar sobre los fondos recibidos de la publicidad estatal y sobre el apoyo financiero estatal, incluso de países no pertenecientes a la UE.
Los fondos públicos para los medios de comunicación o las plataformas en línea deberán asignarse mediante criterios públicos, proporcionados y no discriminatorios. La información sobre el gasto publicitario estatal será pública, incluyendo el importe total anual y el importe por medio.
Los eurodiputados se aseguraron de incluir un mecanismo para evitar que plataformas en línea muy grandes, como Facebook, X (anteriormente Twitter) o Instagram, restrinjan o eliminen arbitrariamente contenidos de medios independientes. Las plataformas primero tendrán que distinguir los medios independientes de las fuentes no independientes. Los medios serían notificados cuando la plataforma tenga la intención de eliminar o restringir su contenido y tendrán veinticuatro horas para responder. Sólo después de la respuesta (o en ausencia de ella) la plataforma podrá eliminar o restringir el contenido si aún no cumple con sus condiciones.
Los medios tendrán la opción de llevar el caso a un organismo de resolución de disputas extrajudicial y solicitar una opinión de la Junta Europea de Servicios de Medios.
