Nuevo informe del Foro I&D: más de doscientas recomendaciones políticas para garantizar el control democrático de la IA
El Foro sobre Información y Democracia hizo público un documento de análisis y recomendaciones de políticas dirigidas a Estados, sociedad civil, plataformas digitales y compañías de IA. La iniciativa fue elaborada por especialistas de todo el mundo.
Titulado La IA como bien público: garantizando el control democrático de la IA en el espacio de la información, el informe de políticas publicado este 28 de febrero contiene más de doscientas recomendaciones dirigidas a los Estados y las empresas de inteligencia artificial (IA). Se trata de un enfoque integral que exige sistemas de IA seguros e inclusivos, sobre la base de mecanismos de rendición de cuentas e incentivos para una IA ética, así como mecanismos de gobernanza.
Las recomendaciones de políticas fueron desarrolladas por un grupo de trabajo de políticas internacional con catorce miembros de diversas disciplinas y trece países en todos los continentes. El Grupo estuvo copresidido por Laura Schertel Mendes, profesora de Derecho y Jonathan Stray, científico senior, e integrado por Rachel Adams, Linda Bonyo, Marta Cantero Gamito, Alistair Knott, Syed Nazakat, Alice Oh, Alejandro Pisanty, Gabriela Ramos, Achim Rettinger, Edward Santow, Suzanne Vergnolle y Claes de Vreese. Durante seis meses, trabajaron a partir de un proceso inclusivo y consultivo, recibiendo aportes de más de 150 expertos de todo el mundo. Desde América Latina contó con el apoyo de Observacom, que colaboró recolectando insumos de expertos de la región.
El informe describe recomendaciones clave para los gobiernos, la industria y las partes interesadas relevantes, en particular:
- Fomentar la creación de un sistema de certificación personalizado para empresas de IA inspirado en el éxito del sistema de certificación de Comercio Justo.
- Establecer estándares que regulen la autenticidad y procedencia del contenido, incluida la autenticación del autor.
- Instrumentar un marco legal integral que defina claramente los derechos de las personas, incluido el derecho a ser informado, a recibir una explicación, a cuestionar un resultado generado por una máquina y a la no discriminación.
- Brindar a los usuarios una oportunidad sencilla y fácil de usar para elegir sistemas de recomendación alternativos que no optimicen la participación, sino que se basen en la clasificación para respaldar resultados individuales y sociales positivos, como información confiable, contenido puente o diversidad de información.
- Establecer un proceso participativo para determinar las reglas y criterios que guían la procedencia y conservación de los conjuntos de datos, el etiquetado humano para la capacitación, alineación y formación de equipos de IA para construir sistemas de IA inclusivos, no discriminatorios y transparentes.
«Las democracias deben dejar de permitir que las empresas tecnológicas dicten la trayectoria de la tecnología, capturen la narrativa política y establezcan las agendas. Existen soluciones para construir un espacio global de información y comunicación propicio para la democracia, que cree valor para las personas no sólo como consumidores, sino ante todo como ciudadanos. Hoy presentamos estas soluciones. Piden un marco integral que aliente a las empresas que desarrollan e implementan IA a implementar procedimientos democráticos, sugiriendo medidas para incentivar un desarrollo y uso éticos de la IA y estableciendo un marco para la rendición de cuentas, la gobernanza y la supervisión», destaca Michael Bąk, director ejecutivo del Foro sobre Información y Democracia. «A esto lo llamamos IA de Comercio Justo».
Los acontecimientos recientes han demostrado el poder destructivo que la IA puede tener en los procesos políticos. Los deepfakes de actores políticos pueden influir en el comportamiento electoral y los sistemas de inteligencia artificial pueden amplificar contenido que intensifica los conflictos y las crisis. Los chatbots ya han proporcionado información incorrecta sobre las elecciones. Los sistemas de IA pueden reproducir desigualdades y hegemonías culturales existentes y provocar discriminación y prejuicios. Sin embargo, la IA también presenta posibilidades sin explotar para fortalecer la producción de noticias, el análisis de datos y el acceso a la información.
«Si el desarrollo y uso de la IA continúa como lo hace actualmente, planteará grandes desafíos al entorno de información que impulsa los procesos democráticos. Estamos al borde de un cambio importante en el panorama de la gobernanza de la IA, de las ideas a la regulación. Es hora de que los Estados actúen y nuestra hoja de ruta pretende guiar a los responsables políticos en la defensa de la democracia», explican Laura Schertel Mendes y Jonathan Stray, copresidentes del Grupo de Trabajo.
El informe fue presentado con motivo de un evento global en cinco ciudades de cuatro continentes. Este evento incluye un lanzamiento en línea y paneles de debate locales, organizados en colaboración con varios socios: Centro para la Inteligencia Artificial Compatible con Humanos (UC Berkeley, Estados Unidos), Escuela de Gobernanza Transnacional de Florencia (Instituto Universitario Europeo, Italia), Instituto de Educación, Desarrollo e Investigación (Brasil), Research ICT Africa (Sudáfrica) y Centro de Innovación de Asuntos Internacionales , Tecnología y Asuntos Globales de la Escuela de Asuntos Internacionales de París (SciencesPo, Francia).
Christophe Deloire, presidente del Foro I&D, presentó las principales conclusiones del informe desde París, seguido de comentarios de los copresidentes Jonathan Stray y Laura Schertel Mendes, respectivamente, en Berkeley y Brasilia. Scott Timcke se unió desde Ciudad del Cabo y Marta Cantero Gamito desde Florencia, antes de ceder la palabra a Gabriela Ramos, miembro del grupo de trabajo que ha liderado el desarrollo de las recomendaciones sobre ética de la IA en la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura, conocida abreviadamente como Unesco.
La IA como bien público: garantizando el control democrático de la IA en el espacio de la información
«Las democracias —plantea el documento— deben dejar de permitir que las empresas tecnológicas dicten la trayectoria de la tecnología, capturen la narrativa política y establezcan las agendas.»
