Desnudarse o fracasar: el algoritmo de Instagram presiona a los usuarios para que muestren su piel

Una investigación realizada por la organización Algorithm Watch y la Red Europea de Periodismo de Datos revela que Instagram prioriza las fotos de hombres y mujeres con poca ropa, lo que moldea el comportamiento de los creadores de contenido y la visión del mundo de los europeos.

Sarah es una emprendedora gastronómica en una gran ciudad europea (el nombre es ficticio). La empresa que creó ayuda a las mujeres a sentirse cómodas con su alimentación y promueve la «alimentación intuitiva». Como muchos pequeños empresarios, Sarah recurre a las redes sociales para atraer clientes. Instagram, la segunda red social más grande de Europa después de Facebook, es un canal de marketing del que no podría prescindir, afirmó.

Pero en Instagram, que se centra principalmente en fotos y videos, sentía que sus fotos no llegaban a muchos de sus 53.000 seguidores a menos que posara en traje de baño. De hecho, cuatro de sus siete publicaciones con más «me gusta» de los últimos meses la mostraban en bikini. Ely Killeuse, autora de libros con 132.000 seguidores en Instagram, quien accedió a hablar públicamente, dijo que «casi todas» de sus fotos con más «me gusta» la mostraban en ropa interior o traje de baño.

Podría darse el caso de que su público prefiera masivamente ver a Sarah y Ely en traje de baño. Pero desde principios de 2016, Instagram organiza las fotos en la sección de noticias de los usuarios de modo que las que más les interesan aparezcan en la parte superior. Si las demás fotos que publican Sarah y Ely son menos populares, es posible que no se muestren tanto a sus seguidores.

Qué fotos se muestran y cuáles no no es solo cuestión de gustos. Los emprendedores que utilizan Instagram para captar clientes deben adoptar las normas que el servicio fomenta para llegar a sus seguidores. Incluso si estas normas no reflejan los valores sobre los que construyeron sus negocios ni los de su público objetivo y sus clientes.

2400 fotografías analizadas

Para comprender qué imágenes prioriza Instagram, la Red Europea de Periodismo de Datos y AlgorithmWatch pidieron a veintiséis voluntarios que instalaran una extensión para el navegador y siguieran a una selección de creadores de contenido profesionales. Seleccionamos a 37 profesionales de doce países (catorce de ellos hombres) que usan Instagram para promocionar marcas o captar nuevos clientes para sus negocios, principalmente en los sectores de la alimentación, los viajes, el fitness, la moda o la belleza.

El complemento abre automáticamente la página de inicio de Instagram a intervalos regulares y señala qué publicaciones aparecen en la parte superior de los canales de noticias de los voluntarios, proporcionando una descripción general de lo que las plataformas consideran más relevante para cada voluntario.

Si Instagram no interfiriera con el algoritmo, la diversidad de publicaciones en el feed de noticias de los usuarios debería coincidir con la diversidad de publicaciones de los creadores de contenido que siguen. Y si Instagram personalizara el feed de noticias de cada usuario según sus gustos personales, la diversidad de publicaciones en éster debería estar sesgada de forma diferente para cada usuario. Esto no es lo que encontramos.

Entre febrero y mayo, se analizaron 1737 publicaciones de los creadores de contenido que monitoreamos, que contenían 2400 fotos. De estas publicaciones, 362 (el 21 %) fueron identificadas por un programa informático como imágenes de mujeres en bikini o ropa interior, o de hombres con el torso desnudo. Sin embargo, en las noticias de nuestros voluntarios, las publicaciones con este tipo de imágenes representaban el 30 % de todas las publicaciones de las mismas cuentas (algunas se mostraron más de una vez).

Las publicaciones con fotos de mujeres en ropa interior o bikini tenían un 54 % más de probabilidades de aparecer en las noticias de nuestros voluntarios. Las publicaciones con fotos de hombres con el torso desnudo tenían un 28 % más de probabilidades de aparecer. Por el contrario, las publicaciones con fotos de comida o paisajes tenían un 60 % menos de probabilidades de aparecer en las noticias.

Estos resultados, que pueden leerse en detalle en una página dedicada, pasan las pruebas estándar de significación estadística.

Esperando una auditoría

La tendencia hacia la desnudez podría no aplicarse a todos los usuarios de Instagram. Si bien fue consistente y evidente para la mayoría de los voluntarios, una pequeña minoría recibió publicaciones que reflejaban mejor la diversidad publicada por los creadores de contenido. Es probable que el algoritmo de Instagram favorezca la desnudez en general, pero que la personalización, u otros factores, limiten este efecto para algunos usuarios.

Nuestros resultados no alcanzan los niveles de una auditoría exhaustiva del algoritmo del feed de noticias de Instagram. Solo documentan lo que sucedió en el feed de noticias de nuestros voluntarios. Sin acceso a los datos internos y a los servidores de producción de Facebook, siempre será imposible sacar conclusiones definitivas.

Facebook no respondió a nuestras preguntas específicas, pero envió un comunicado: «Esta investigación presenta varios fallos y demuestra una comprensión errónea del funcionamiento de Instagram. Clasificamos las publicaciones en tu feed según el contenido y las cuentas en las que has mostrado interés, no según factores arbitrarios como la presencia de trajes de baño».

Sin embargo, tenemos motivos para creer que nuestros hallazgos son representativos de cómo funciona Instagram en general.

Maximizar el compromiso

En una patente publicada en 2015, ingenieros de Facebook, la empresa que gestiona Instagram, explicaron cómo el newsfeed podía seleccionar qué imágenes priorizar. Cuando un usuario publica una foto, esta se analiza automáticamente al instante, según la patente. A las fotos se les asigna una «métrica de interacción», que se utiliza para decidir si se muestra o no una imagen en el newsfeed del usuario.

La métrica de interacción se basa parcialmente en el comportamiento previo del usuario. Si a un usuario le gusta una marca específica y una foto muestra un producto de la misma marca, la métrica de interacción aumenta. Sin embargo, esta también puede calcularse basándose en el comportamiento previo de todos los usuarios del servicio. La patente establece específicamente que el género, la etnia y el estado de desnudez de las personas que aparecen en una foto podrían utilizarse para calcular la métrica de interacción.

Aunque Instagram afirma que su sección de noticias está organizada según lo que más le importa a un usuario, la patente de la compañía explica que, en realidad, podría clasificarse según lo que considera que interesa a todos los usuarios. Que los usuarios vean o no las fotos publicadas por las cuentas que siguen depende no solo de su comportamiento previo, sino también de lo que Instagram considera más atractivo para otros usuarios de la plataforma.

Correlaciones espurias

Facebook analiza automáticamente las imágenes con un software, conocido como visión artificial, antes de que su algoritmo decida cuáles mostrar en el newsfeed del usuario. Este software extrae inferencias automáticas de un conjunto de datos de entrenamiento, compuesto por miles de imágenes anotadas manualmente. Sus limitaciones podrían afectar la forma en que Instagram prioriza las imágenes en el newsfeed.

Los informáticos saben desde hace años que estos sistemas replican y amplifican los sesgos de sus datos de entrenamiento, lo que genera correlaciones falsas o engañosas. Por ejemplo, un programa encargado de identificar lobos y perros basándose en fotos de caninos encontradas en línea no reconocerá a los animales en el sentido humano de la palabra. En cambio, etiquetará como «lobo» a cualquier animal sobre un fondo nevado.

Los datos de entrenamiento para visión artificial suelen ser generados por trabajadores mal pagados, con el incentivo de trabajar con rapidez y obtener resultados que se ajusten a las expectativas de sus empleadores. Esto los lleva a adoptar acríticamente las categorías que se les ofrecen y a pasar por alto las sutilezas que una foto podría contener, escribió Agathe Balayn, candidata a doctorado en la Universidad Tecnológica de Delft, sobre el tema del sesgo en los sistemas automatizados.

Las consecuencias pueden ser graves. Un artista brasileño intentó promocionar una de sus publicaciones de Instagram. La solicitud fue denegada debido a que la publicación contenía contenido violento. Solo mostraba a un niño y al piloto de Fórmula 1 Lewis Hamilton. Ambos eran de piel oscura. Y a una profesora de yoga se le denegó un anuncio porque la imagen contenía lenguaje grosero, a pesar de que solo estaba haciendo la postura de la grulla lateral. Es asiático-estadounidense.

Una línea muy fina para enhebrar

Las normas de Instagram establecen que la desnudez no está permitida en la plataforma, pero favorecen las publicaciones que muestran piel. La sutil diferencia entre lo que se fomenta y lo que se prohíbe la determinan algoritmos de visión artificial no auditados y probablemente sesgados. Cada vez que publican una imagen, los creadores de contenido deben sortear esta fina línea entre revelar lo suficiente para llegar a sus seguidores, pero sin revelar tanto como para ser expulsados ​​de la plataforma.

Una encuesta realizada en 2019 a 128 usuarios de Instagram por la revista estadounidense Salty reveló que la eliminación abusiva de contenido era común. Es imposible determinar con qué frecuencia se producen estos incidentes y si las personas de color y las mujeres se ven afectadas de forma desproporcionada mientras los algoritmos de Instagram no sean auditados.

Sin embargo, una revisión de 238 patentes presentadas por Facebook que contenían la frase «visión artificial» reveló que, de 340 personas registradas como inventoras, solo veintisiete eran mujeres. Los entornos dominados por hombres suelen tener consecuencias perjudiciales para las mujeres. Por ejemplo, los cinturones de seguridad de los automóviles solo se prueban en maniquíes masculinos, lo que conlleva una mayor tasa de lesiones en mujeres. Nuestra investigación muestra que los algoritmos de Facebook podrían seguir este patrón.

Miedo a la prohibición en la sombra

Sarah y otros emprendedores que dependen de Instagram tenían miedo de hablar con la prensa. La mayoría de los creadores profesionales de contenido de Instagram temen represalias de Facebook, como la eliminación de cuentas o el shadow ban (una práctica en la que las publicaciones de un usuario se muestran a ninguno o a muy pocos de sus seguidores, sin su conocimiento), lo que sería una sentencia de muerte para su negocio.

Una joven emprendedora con unos setenta mil seguidores, quien afirmó que Instagram era «muy importante» para su negocio, declaró específicamente a AlgorithmWatch que no quería ser identificada por temor a una prohibición encubierta. Ely Killeuse, quien habló públicamente, afirmó que tener otra fuente de ingresos era la «condición fundamental» para ella. Depender demasiado de Instagram significaría perder su libertad y su cordura, añadió.

El Reglamento General de Protección de Datos (RGPD), que entró en vigor en 2018, y el Reglamento de Plataformas a Empresas (P2B), aplicable a partir del 12 de julio de 2020, ya ofrecen numerosas garantías a usuarios y profesionales. En particular, el RGPD establece que los usuarios tienen derecho a obtener explicaciones sobre las decisiones automatizadas, y el Reglamento P2B obligará a los servicios de intermediación en línea a revelar los principales parámetros que determinan la clasificación algorítmica.

Esta nueva medida no debería obligar a las plataformas a revelar el funcionamiento interno de sus algoritmos, según Petra de Sutter, presidenta de la Comisión de Mercado Interior y Protección del Consumidor del Parlamento Europeo. Impedir que Instagram clasifique las noticias de sus usuarios no sería legalmente viable, escribió en un correo electrónico a AlgorithmWatch. En cambio, la transparencia que aportará el P2B debería permitir la toma de decisiones políticas bien fundamentadas en el futuro, añadió. En cuanto a los temores a las prohibiciones en la sombra, De Sutter los considera exagerados. «Una pregunta nunca ha traído represalias», escribió.

El P2B podría ser diferente, pero dos años después de la entrada en vigor del RGPD, varios expertos lamentan una implementación muy deficiente. Un problema es que la autoridad irlandesa de protección de datos, responsable de regular la filial europea de Facebook con sede en Dublín, parece tener una escasez de personal lamentable y, como explicó un especialista en plataformas a AlgorithmWatch, «no parece entender el RGPD». Otro problema radica en la falta de supervisión. Ninguna autoridad, ni a nivel europeo ni dentro de los Estados miembros, tiene la capacidad ni las herramientas necesarias para auditar ninguna de las grandes plataformas, incluida Instagram, lo que impide que se apliquen muchas de las disposiciones del RGPD.

Posible discriminación

Si bien nuestros resultados muestran que los creadores de contenido, hombres y mujeres, se ven obligados a mostrar su piel de forma similar para llegar a su audiencia, el efecto podría ser mayor en el caso de las mujeres y considerarse una discriminación hacia las emprendedoras. Sin embargo, aunque la discriminación por razón de género está prohibida por la Carta de los Derechos Fundamentales de la Unión Europea, no existen vías legales para que un usuario de Instagram inicie un proceso legal. La legislación no contempla las particularidades del emprendimiento en redes sociales.

Miriam Kullmann, profesora adjunta de la Universidad de Economía y Negocios de Viena (WU), escribió a AlgorithmWatch que la legislación europea contra la discriminación se centra casi exclusivamente en las relaciones laborales. Los autónomos no están protegidos.

Algunos grupos sí luchan por los derechos de los creadores independientes en redes sociales. IG Metall, el sindicato más grande de Europa, apoya una acción colectiva de youtubers que exige mayor equidad y transparencia a Google (propietario de YouTube) tras la desmonetización de un video. No planean extender su programa a los creadores de contenido en Instagram ni en otras plataformas.

Uno de cada tres europeos

Dado que es probable que miles de emprendedores europeos creen contenido en Instagram, el impacto de sus publicaciones es enorme, ya que suelen contar con cientos de miles de seguidores. Facebook afirma que cerca de 140.000.000 de residentes de la Unión Europea, o uno de cada tres, usaron Instagram.

Entre los jóvenes de dieciocho a veinticuatro años, la penetración de Instagram es de aproximadamente el 100 % en todos los países de la UE. Las órdenes de confinamiento relacionadas con la pandemia de covid aumentaron el tiempo dedicado a Instagram de forma asombrosa. En Italia, durante el confinamiento, las visualizaciones de Instagram se duplicaron, según informó Facebook a sus inversores.

Un rollo propio

Hace casi un siglo, la famosa escritora británica Virginia Woolf afirmó que las mujeres necesitaban «una habitación propia» para que su creatividad floreciera. Someterse a la opinión de autoridades externas, escribió, era como invitar a la podredumbre a desarrollarse en el corazón de la propia obra.

En Instagram, someterse a la opinión de las autoridades que crearon el algoritmo del newsfeed no es una opción. Negarse a mostrar partes del cuerpo reduce drásticamente la audiencia. Los emprendedores, hombres y mujeres, deben acatar las normas establecidas por los ingenieros de Facebook si quieren tener la oportunidad de ganarse la vida.