Caminos regulatorios para la IA en América Latina

En América Latina se ha promocionado la inteligencia artificial (IA) con una narrativa de desarrollo económico y social. Sin embargo, la omisión de un diálogo articulado entre las entidades del Estado y con las organizaciones de la sociedad civil dibuja una compleja cartografía de preocupaciones éticas, metodológicas y hasta epistemológicas en relación con la regulación de la IA en los países de la región.

En esta coyuntura crítica, el consorcio AlSur —integrado por organizaciones de sociedad civil y academia de América Latina—^[1]Asociación por los Derechos Civiles – ADC (Argentina), Centro de Estudios en Libertad de Expresión y Acceso a la Información – CELE (Argentina), Coding Rights (Brasil), Derechos … Continue reading busca fortalecer los derechos humanos en el entorno digital de la región. Con tal motivo, produjo un documento sobre los escenarios de regulación en Brasil, Perú, Colombia y México, en el que plantea que los escenarios de regulación de estos países son ejemplos de una reactividad legislativa sin un marco legal integral, así como un desconocimiento de la realidad material y de las necesidades particulares de cada país. «La regulación —señala— no solo se trata de tema técnico, sino de una serie de prácticas sociales y legislativas que afectan la vida de las personas».

En Brasil, la influencia de la legislación internacional planteó la inclusión inicial de un capítulo sobre «La garantía de los derechos de las personas afectadas por los sistemas de inteligencia artificial». Posteriormente, debido a la acción ejecutiva se transformó en un vago capítulo sobre «La protección de la especie humana y la protección de datos». Lo anterior, es un ejemplo de casos en los que las regulaciones se adaptan a las necesidades de proyectos tecnosolucionistas e intereses que parecieran opacar la relación entre IA y derechos humanos, más que demarcar los límites y establecer garantías para las personas que se ven impactadas por su uso e implementación.

En los casos de Perú, México y Colombia , la participación efectiva de la sociedad civil en la  construcción de los marcos legales de la IA ha sido nula, generando una constante desconfianza sobre la garantía de los derechos humanos. Por ejemplo, ¿dónde quedan los contextos de vigilancia masiva y racismo algorítmico? ¿Por qué no se regulan los casos específicos en los que la IA afecta la garantía de derechos y por el contrario regulan sobre un espectro amplio de riesgos?

En el caso de Perú, se han creado distintas instituciones para promover el aprovechamiento ético de tecnologías, incluida la inteligencia artificial, pero se ha dejado de lado el análisis de los riesgos relacionados al uso de la IA y cómo el Estado debería hacerles frente. Además, la participación efectiva de la sociedad civil ha quedado en un espacio marginal en la construcción de las iniciativas legislativas.

En Colombia, si bien hay marcos éticos, mecanismos de regulación y «la hoja de ruta para garantizar la adopción ética y sostenible de la inteligencia artificial», la interlocución entre normativas ya existentes como la ley de protección de datos personales o la legislación en derechos de autor es inexistente. Además, se da la espalda a casos específicos de vulneración de derechos como es el caso de los sistemas para clasificar potenciales beneficiarios de programas sociales. En ese sentido, hay una constante preocupación por la falta de garantía de derechos inmediatos.

Por la misma línea, México tiene una regulación genérica de la IA que asimismo busca replicar el modelo de riesgos de la Ley de Inteligencia Artificial de la Unión Europea. Lo cual, pone en entredicho los derechos humanos. Ya que, se centra en riesgos que aún no existen y quita la mirada de temas específicos como la vigilancia biométrica masiva bajo premisas de «seguridad nacional».

Similar al caso de Colombia, un marco efectivo para la regulación de sistemas automatizados o inteligencia artificial debe fundamentarse en un diagnóstico del marco jurídico que ya regula indirectamente esta tecnología. Por ejemplo, no se ha realizado un análisis de cómo la inteligencia artificial ya está parcialmente regulada por la legislación en materia de privacidad, protección de datos personales, procedimientos, consumo, competencia económica, propiedad intelectual y derechos de autor.

De manera que, una de las principales preocupaciones consiste en conciliar un enfoque con base en los distintos niveles de riesgo y un modelo regulador sostenido en derechos humanos. Lo anterior, para desviar la atención a la protección de las personas, quienes son las afectadas, impactadas y clasificadas por estos sistemas, y no a las máquinas o los algoritmos. Si bien la legislación global sobre IA se desarrolla en un contexto de competencia y disputa entre empresas de unos pocos países, la sociedad civil no es un observador pasivo. Por ejemplo, en Brasil las acciones de las organizaciones de la sociedad civil frente al racismo algorítmico marcan una ruta de acción alternativa a las iniciativas legislativas.

Además de hacer un recorrido por las distintas formas de regulación de la IA en México, Brasil, Perú y Colombia, los textos del documento apuntan a varios temas comunes, como la necesidad de usar los marcos legales existentes, evitar la copia de modelos regulatorios extraños para el contexto local y la necesidad de desarrollar procesos participativos y garantistas de derechos para crear regulaciones adecuadas y pertinentes. a IA puede afectar profundamente las relaciones sociales y políticas que ya desfavorecen a las personas por su origen, género, raza y disponibilidad de recursos económicos. La adopción masiva de la IA requiere de debates y regulaciones responsables con los riesgos de esa adopción.

Esta publicación ha sido preparada por las organizaciones de AlSur Derechos Digitales, Fundación Karisma, IDEC, Coding Rights, Hiperderecho y R3D, como parte de una reflexión e intercambios internos en el marco del consorcio. «Sabemos que éste es apenas un punto de inicio y que la carrera regulatoria con respecto a las IA todavía tendrá un largo camino por recorrer. Nuestro interés principal es aportar desde nuestra perspectiva, un análisis crítico que pueda ser aprovechado por tomadores de decisión, organizaciones de sociedad civil y activistas, para que los debates en torno a las IA tengan como base los derechos humanos y las necesidades específicas de los países de nuestra región».

Descargar el documento ↑

MIRÁ TAMBIÉN

Un estudio alerta sobre rasgos de autoritarismo en el primer año del gobierno libertario

POR ESFERA REDACCIÓN | Un reciente estudio del centro de investigación Asuntos del Sur alerta sobre rasgos de autoritarismo en el primer año de gestión de Javier Milei a partir del análisis de variables como el rechazo o bajo compromiso con las reglas del juego democrático, la negación de la legitimidad de los oponentes políticos, la tolerancia o promoción de la violencia y la restricción de libertades civiles.

---

Documento de Sipreba y Fatpren plantea la necesidad de regular las plataformas digitales

POR ESFERA REDACCIÓN | El sindicato de Prensa de Buenos Aires (Sipreba) y la Federación Argentina de Prensa (Fatpren) publicaron un dossier de investigación y análisis que busca poner en agenda la discusión acerca de la regulación de las grandes plataformas. En tal sentido, desarrolla argumentos para impulsar la regulación de las plataformas, que tampoco tributan impuestos ni aportan al pluralismo y la diversidad.

---

Informe especial del CELS: Milei, un año

POR ESFERA REDACCIÓN | Para el Centro de Estudios Legales y Sociales (CELS) lo principal no fue «achicar» el Estado sino sintonizarlo con un modelo de país en el que es más fácil acumular riqueza y más difícil ejercer derechos.

---

Derechos en Argentina: Doce meses de gestión, doce derechos perdidos

POR ESFERA REDACCIÓN | En el marco del primer aniversario de la gestión del presidente Javier Milei, Amnistía Internacional presentó un informe sobre la situación de los derechos humanos en Argentina durante 2024, destacando el preocupante retroceso en doce áreas clave bajo el lema: «Doce meses de gestión, doce derechos perdidos».

---

Informe sobre Libertad de Expresión 2024

POR ESFERA REDACCIÓN El lunes 9 de diciembre, la víspera del primer aniversario de la asunción del presidente Javier Milei en la Argentina y del Día Internacional de los Derechos Humanos, se presentó en la Facultad de Ciencias sociales de la UBA el Informe sobre libertad de expresión e la Argentina 2024, que documenta un gran número de afectaciones a la libertad de expresión de periodistas y personas que tomaron la voz pública en la Argentina durante el primer año de gobierno de la administración encabezada por Javier Milei.

---