Una nueva amenaza gubernamental a la privacidad y la libertad de expresión
Patricia Bullrich creó la Unidad de Inteligencia Artificial Aplicada a la Seguridad (Uiaas) para patrullar redes sociales y sitios de Internet. Hasta postula “predecir delitos” utilizando algoritmos. La medida genera preocupación por la falta de claridad sobre el manejo de datos y los mecanismos de control. Aunque nadie puede ser investigado sin una orden judicial, varios especialistas alertan que está todo dado para una megaexcursión de pesca contraria a la Constitución Nacional, que pone en riesgo la libertad de todas las personas, su privacidad, su libre expresión y circulación entre otros tantos derechos.
A través de la Resolución 710/24 publicada este lunes en el Boletín Oficial, el Gobierno dispuso la creación de la Unidad de Inteligencia Artificial Aplicada a la Seguridad (Uiaas), a cargo de la ministra de Seguridad, Patricia Bullrich. El organismo, que operará dentro de Dirección de Ciberdelito y Asuntos Cibernéticos, tendrá entre sus funciones «patrullar las redes sociales abiertas, aplicaciones y sitios de Internet en orden a la investigación de delitos e identificación de sus autores, así como la detección de situaciones de riesgo grave para la seguridad».
A fines de mayo, mediante la Resolución 428/24, la ministra comenzó a implementar un protocolo de ciberpatrullaje «en sitios web de acceso público y fuentes digitales abiertas», y habilitó a las fuerzas federales a realizar labores «preventivas» en el ciberespacio. Lo novedoso con esta flamante resolución es la utilización de inteligencia artificial. El ciberpatrullaje no es una práctica nueva para Bullrich, quien ya durante el gobierno de Cambiemos utilizaba estas técnicas, lo que resultó en varios casos de denuncias y detenciones por amenazas en redes sociales.
Funciones de la Uiaas
Este nuevo organismo estará liderado por el director de Ciberdelito y Asuntos Cibernéticos, Santiago González Bellengeri, e incluirá a las áreas especializadas de las fuerzas policiales y de seguridad federales, cuyos representantes serán designados por la máxima autoridad de cada una de estas fuerzas.
Entre sus principales tareas se incluyen: patrullar redes sociales abiertas, aplicaciones y sitios de Internet, analizar imágenes de cámaras de seguridad en tiempo real utilizando reconocimiento facial, utilizar algoritmos de aprendizaje automático para predecir futuros delitos basándose en datos históricos, identificar patrones inusuales en las redes informáticas para prevenir ciberataques, procesar grandes volúmenes de datos para crear perfiles de sospechosos e identificar vínculos entre casos, utilizar drones para vigilancia aérea y responder a emergencias, realizar tareas peligrosas como la desactivación de explosivos mediante robots, detectar transacciones financieras sospechosas, entre otras.
«La resolución no deja claro qué clase de IA se va a utilizar y estrictamente sobre qué información. Si es sobre acciones que se están desarrollando en el presente deberían estar en el marco de una causa judicial», expresó Sabina Frederic, exministra de Seguridad de la Nación entre 2019 y 2021. Y agrega: «Usarlo para perseguir militantes políticos sería delito».
“El riesgo mayor es el uso de Pegasus, que suele ser vendido para ser utilizado por gobiernos y es un sistema que permite introducirse en apps como Whatsapp, por ejemplo. Esta resolución merece varios pedidos de información pública para ver qué sistema se va a utilizar, sobre qué datos disponibles y demás», advierte la exministra. El Pegasus es un programa de ciberespionaje que permite acceder a los teléfonos celulares para recabar información e incluso utilizarlos como cámaras o micrófonos, sin que el usuario se percate de la infiltración.
«Es crucial que el debate sobre su implementación incluya la participación activa de expertos en derechos humanos, organizaciones de la sociedad civil y el Poder Judicial, para asegurar que las innovaciones en seguridad no se conviertan en herramientas de represión y control social», dijo Juan Manuel de Casas, abogado constitucionalista.
«Lo que se crea es una Unidad de Inteligencia, no artificial, ilegal. Es la maximización de una excursión de pesca», advierte Beatriz Busaniche, presidenta de la Fundación Vía Libre. «De la resolución surge que se pueden realizar perfiles de sospechosos de delitos a partir de las múltiples interacciones que realizamos en línea. Esto está en tensión con el estado de derecho y el debido proceso judicial que indica que nadie puede ser investigado por fuera de una investigación judicial en curso, se requiere una orden judicial y todas las garantías», dijo en declaraciones a los medios la especialista en derechos y tecnologías digitales. «La idea puede sonar prometedora cuando uno desconoce el funcionamiento. Pero son sistemas estadísticos que infieren resultados a partir de grandes volúmenes de información. Esos procesos son opacos y es muy difícil explicar por qué razón un sistema dispone que alguien esté en determinado lugar. La opacidad del sistema es incompatible con cualquier investigación criminal. Los peligros son tantos que no hay manera de saber si el sistema no te puso en una base de datos de potenciales criminales por tus opiniones en línea o porque hiciste un chiste, que la IA no identifica, o porque publicaste una foto jugando con una pistola de paintball», preciso Busaniche.
Antecedentes y preocupaciones
El ciberpatrullaje no es una práctica nueva en Argentina. Durante el gobierno de Cambiemos, la Policía Metropolitana ya utilizaba estas técnicas, lo que resultó en varios casos de denuncias y detenciones por amenazas en redes sociales. Un incidente notable fue la amenaza contra la hija de Mauricio Macri en 2016, que llevó a la detención de varios tuiteros descontentos con el entonces presidente.
En marzo pasado, desde el Ministerio de Seguridad se ordenó el allanamiento del domicilio de un joven en el barrio de Chacarita tras analizar una discusión que mantuvo en Instagram, en la que amenazaba «con un disparo en la cabeza» al presidente. Para argumentar la peligrosidad del detenido y solicitar a la Justicia Federal el allanamiento, Bullrich indicó que «mediante el relevamiento de sus redes sociales se determinó que demostraba tener un pensamiento ideológico muy apegado a la propaganda política de la antigua Unión Soviética, contando con vínculos comunistas que podrían llegar a realizar acciones que atenten contra el orden público».
Poco después, en abril, un hombre de 42 años fue detenido en la provincia de Chubut, acusado de amenazar de muerte al presidente y escribir mensajes intimidatorios contra la vicepresidenta Victoria Villarruel y la ministra de Seguridad, Patricia Bullrich.
La creación de la Uiass con la incorporación de inteligencia artificial ha intensificado las preocupaciones. Bullrich afirmó que existe un vacío legal que la nueva unidad viene a llenar, pero los críticos advierten sobre los riesgos de utilizar tecnologías de IA sin un marco regulatorio claro y específico.
Además, en el texto no se menciona quien será la empresa que proveerá la IA, donde se almacenarán los datos de las personas, o si habrá un órgano de control. El abogado constitucionalista De Casas criticó la resolución por permitir al Ministerio de Seguridad regular en materia de libertad de expresión, algo que, según él, corresponde al Congreso. «Esta medida abre la posibilidad de perfilar a todos los usuarios de redes sociales y restringir su libertad de expresión», advirtió.
Con información de fuentes varias.
MÁS SOBRE ESTE TEMA
La seguridad no debe lograrse a expensas de las libertades civiles fundamentales
En diálogo con Esfera Comunicacional sobre la controvertida resolución del Ministerio de Seguridad de la Nación, Mariano Quiroga —periodista especializado en tecnología, director del portal Multiviral, formador en habilidades digitales y consultor en comunicación digital— manifestó que «la nueva normativa, que autoriza el escrutinio automatizado de publicaciones en redes sociales, mensajes y hasta imágenes compartidas por los usuarios, ha llevado a expertos y defensores de los derechos civiles a cuestionar las implicaciones de tal vigilancia en la privacidad y la libertad de expresión de los ciudadanos».
«Uno de los principales puntos de preocupación —puntualizó— es la capacidad real de la IA para interpretar correctamente el contenido en línea. Los críticos señalan que estos sistemas, aunque eficientes en el procesamiento de grandes volúmenes de datos, carecen de la habilidad para entender contextos sutiles, sarcasmo o expresiones culturales específicas. Esto podría llevar a malinterpretaciones graves y a la clasificación errónea de actividades inocentes como sospechosas». Y añadió: «El riesgo de falsos positivos es particularmente alarmante. Actividades cotidianas como compartir fotos de juegos recreativos podrían ser malinterpretadas por los algoritmos, potencialmente colocando a ciudadanos inocentes bajo sospecha injustificada».
Para Quiroga la medida plantea serias interrogantes sobre la expectativa de privacidad en las redes sociales. «Aunque muchas plataformas son públicas por naturaleza, existe un debate sobre si el monitoreo constante por parte del Estado viola la suposición razonable de privacidad de los usuarios», señaló. Asimismo, un efecto preocupante de esta medida es el potencial impacto en la libertad de expresión. La conciencia de estar bajo vigilancia constante podría llevar a la autocensura, con ciudadanos pensando dos veces antes de compartir opiniones o bromas que podrían ser malinterpretadas por los sistemas de IA».
Asimismo, recuerda que, en el contexto internacional, la medida argentina va en contra de la tendencia global. «Mientras que la Unión Europea considera el perfilado mediante IA como de “riesgo inaceptable” y ciudades estadounidenses como San Francisco y Boston han prohibido tecnologías de reconocimiento facial en espacios públicos, Argentina parece moverse en la dirección opuesta», precisó.
Y observa que «la falta de transparencia sobre el funcionamiento exacto de estos sistemas de vigilancia, su auditoría y el manejo de los datos recopilados agrega otra capa de preocupación. Estas preguntas sin respuesta alimentan el escepticismo sobre la implementación y el alcance real de la medida».
«La resolución —redondea— ha generado un llamado a un debate público serio sobre el futuro de la privacidad y la libertad en la era digital. Mientras que la seguridad nacional es una preocupación legítima, muchos argumentan que no debe lograrse a expensas de las libertades civiles fundamentales».