Adolescencia al desnudo
El uso de IA para generar imágenes de adolescentes desnudas se expande en la vida social y con particular énfasis en las escuelas secundarias. Las autoridades, el propio Poder Judicial y las familias viven con perplejidad estas acciones protagonizadas por varones y quedan entrampadas entre denuncias judiciales, mediáticas y reclamos a las plataformas digitales que no prosperan y redundan en impotencia y mayores enfrentamientos.
Segundo año de una escuela de gestión estatal de la ciudad de Buenos Aires (CABA): un estudiante levanta la mano en un taller sobre violencia digital y cuenta que un compañero editó con inteligencia artificial (IA) la foto de la hermana de otro chico. Le agregó un «cuerpo desnudo» y la viralizó. Un hecho similar ocurre en séptimo grado de un colegio privado y religioso de Villa Luro pero con la imagen de la mamá de un compañero. Cerca, en el noroeste de la ciudad, el conflicto estalla en un quinto año. Esta vez, tanto víctimas como victimarios son alumnos de la misma institución. Los retratos de las chicas «sin ropa» circulan en las redes sociales. Docentes y directivos pasan aula por aula para dar con el responsable, pero nadie asume la culpa. El hecho termina con una denuncia judicial.
Los deepfakes con contenido sexual de mujeres menores de edad aumentaron significativamente desde el año pasado. Se trata de fotos, videos o audios que parecen reales, pero fueron manipulados con IA. Daniela Dupuy, fiscal de la Unidad Especializada en Delitos y Contravenciones Informáticas (Ufedyci) de CABA, lo confirma en conversación con Crisis: «A partir del 2024 empezó a ingresar una importante cantidad de casos de imágenes sexuales de niños, niñas y adolescentes creadas con inteligencia artificial, ya sea en su totalidad o con el cuerpo «desnudo» y un rostro verdadero». En muchas situaciones, de acuerdo con la fiscal, son los propios compañeros de escuela los que distribuyen fotos íntimas —reales y falsas— de sus pares mujeres. Muchos otros no llegan a ser denunciados y se trabajan al interior de las instituciones teniendo en cuenta la magnitud del daño.
Pintó, profe
Tercer año celebró un cumpleaños en una quinta con pileta. Como suele suceder en estos tiempos hubo registro de la jornada: fotos de chicos y chicas en malla. En septiembre del año pasado, un estudiante tomó una imagen, en la que aparecían su novia y otra amiga, y editó sus cuerpos para que se vieran sin ropa, según el relato de un educador de la institución. Enseguida replicó el procedimiento con contenido de las redes de otras compañeras de la escuela, un establecimiento privado y religioso de la Comuna 1 de CABA, y las envió en modo «bombita» (para que se eliminaran enseguida) a un grupo de WhatsApp donde había otros compañeros.
El pacto se rompió por una pelea entre los varones. Rápidamente, uno le contó a una de las afectadas que su novio había circulado imágenes de ella desnuda. La chica salió llorando del aula. Como no había visto el material, no terminaba de entender qué había de ella ahí, pero se sintió expuesta. «Yo nunca me saqué una foto en ropa interior o sin ropa», insistía. A los veinte minutos de ese estallido, ya se había enterado buena parte del alumnado. «Encontraron una aplicación de IA que no sabemos cuál es ni de dónde la sacaron. Yo asumo que al estar tanto con el celular les habrá aparecido alguna publicidad y que en esta picardía de pensar que no pasa nada habrán investigado», arriesga Matías, docente cuyo nombre fue alterado para esta nota.
El estudiante admitió la alteración de las fotos: «No sé por qué lo hice, pintó». Las chicas preguntaban cuándo lo iban a sancionar. Finalmente fue suspendido por tres días. Los otros integrantes del grupo de WhatsApp se excusaban con que la mayoría de las imágenes eran de chicas de afuera del colegio y que ellos las habían visto pero no editado. «La situación generó mucha ruptura del tiempo pedagógico de aula. Durante varios días se dieron episodios de llanto y discusión. Hubo muchos insultos al compañero o frases como «qué asco nos das». También, pedidos de expulsión. Si bien fue totalmente repudiable lo que hizo, nosotros somos responsables de todos los estudiantes. Tenemos que ayudarlos a entrar en razón. No echarlos y sacarnos el problema de encima», reflexiona Matías.
Las familias implicadas fueron citadas por la escuela. La madre del chico que alteró las imágenes se enojó con él porque no era la primera vez que lo suspendían y aseguró que iban a hablar seriamente en su casa. La familia de una de las chicas no se presentó. La otra estaba «angustiada y preocupada» por su hija. Buscaron dialogar y contener. «Muchas veces, la primera reacción de los adultos es sacarles los teléfonos y las computadoras a sus hijos o hijas, incluso cuando ellas fueron las víctimas. También nos encontramos con cierta revictimización por parte de los padres como preguntarles por qué accedieron a sacarse determinada foto. O bien familias que minimizan lo que sucede: «son cosas que hacen los chicos»», cuenta Carolina Bertoni, titular del Área de Asistencia a Niñas, Niños y Adolescentes (Annavi) del Ministerio Público Fiscal (MPF) de CABA.
El colegio no acudió a organismos estatales de niñez y adolescencia. Se encontraban en un momento de recambio en el equipo de conducción. «Resolvimos como pudimos. Quizás si hubiéramos tenido una estructura más firme podríamos haber intervenido de una manera más organizada», dice el docente y añade que comenzaron a trabajar estos temas en talleres de Educación Sexual Integral (ESI) para segundo año.
Sin embargo, Matías plantea que no hay capacitación docente de ESI digital en la institución. Los deepfakes son los casos más extremos de un conjunto variopinto de situaciones con las que lidian los docentes en esta época: desde burlas a través de stickers de WhatsApp hasta comentarios crueles en las redes sociales y ciberacoso mediante cuentas anónimas. «Es muy difícil tomar decisiones con respecto a las redes porque nos exceden, pero nosotros entendemos que estos casos también son asunto de injerencia de la escuela y requieren de normas de convivencia», concluye Matías.
Ante la ley
En 2024 un adolescente de quince años de una escuela pública enclavada en uno de los barrios más pobres de CABA tenía interés en una compañera de clase. Se lo hizo saber a través de un amigo. La chica «no dio bola»: estaba de novia y «no registraba» a su pretendiente. Al poco tiempo, él colocó su rostro sobre la foto del cuerpo desnudo de una mujer con IA. La imagen se viralizó en todo el colegio, pero pocos compañeros salieron en defensa de la adolescente, conforme al relato de un área estatal de niñez que acompañó el caso.
Cuando la familia de la estudiante se enteró, acudió a la institución para orientarse sobre cómo accionar. Los directivos sugirieron no realizar la denuncia para trabajar lo sucedido al interior del establecimiento, a pesar de que los hechos habían ocurrido «afuera». Según lo que la familia le relató al organismo interviniente, no solo nunca se trabajó sino que el hostigamiento escaló hasta llegar a amenazas sexuales contra la adolescente y otra compañera. Hoy, las jóvenes se encuentran en un «estado de angustia, alerta e hipervigilancia permanente», a lo que se suma el rechazo de la imagen corporal propia en una de ellas y una tendencia hacia el aislamiento en la otra.
A principios de 2025, el equipo de conducción de la escuela cambió y la familia realizó la denuncia por amenazas y hostigamiento agravado. La Justicia dictó medidas de prohibición de acercamiento y contacto. Hoy se desconoce si el adolescente que generó el contenido se encuentra en la Argentina o fuera del país. «Hay muchísimos casos que no se denuncian. Este sí porque terminó con amenazas, si no la chica probablemente no le hubiera contado a sus padres sobre esta situación, porque suele generar bastante vergüenza», señalan desde el equipo técnico que trabajó el caso.
La CABA publicó en diciembre un protocolo escolar ante situaciones de violencia digital. Se contempla tanto el diálogo con las partes involucradas como instancias de trabajo y reflexión grupal, informar lo sucedido a la supervisión escolar, dar aviso al Consejo de los Derechos de Niños, Niñas y Adolescentes (Cdnnya) cuando haya una situación de vulneración de derechos y asesorar a las familias en los canales de comunicación de la Ufedyci. “La Ufedyci podría decir que menores de edad y creaciones ficticias equivalen a archivar el caso. Pero no. Trabajamos fuertemente junto a un equipo de psicólogas. Conversamos con los directivos del colegio, con los padres, con los autores y con las víctimas, con el objetivo de concientizar acerca del efecto grave que genera este actuar”, narra la fiscal Dupuy.
TE PUEDE INTERESAR
Crónica de una pantalla anunciada
POR FEDERICO WINER | Desde la pandemia, el tiempo frente a los dispositivos aumentó exponencialmente en cada casa. Hay cursos de bienestar digital, horarios flexibles y hasta días sin reuniones virtuales.
Hugo Alconada Mon: «Hay que urgir a los colegas a aumentar umbrales de seguridad en su trabajo»
POR SEBASTIÁN RODRÍGUEZ MORA | El periodista fue víctima de ataques a través de redes sociales e intentos de hackeo de sus cuentas por revelar el plan de inteligencia del gobierno para perseguir al periodismo. Su mirada sobre la profesión.
Pistolas
POR ROBERTO SAMAR | Las armas como componentes de una pedagogía mediática de la violencia y la crueldad ofrecidas por el sistema de medios para resolver los conflictos y enfrentar la masculinidad hegemónica. La digitalización de la tenencia de armas genera un nuevo problema. Responsabilidad de comunicadores y educadores para desmontar las narrativas que romantizan la violencia y naturalizan la posesión de armas como símbolo de poder, protección o justicia.
Nombrar para transformar el modelo de consumo
RODRIGO FERNÁNDEZ MIRANDA | La Economía Social y Solidaria propone un modelo de consumo transformador, basado en valores. El consumo como un espacio clave de disputa material y simbólica. Un estudio que revela cómo se construye el consumo en la Economía Social y Solidaria. Las dificultades para construir una identidad a partir de la producción de un mensaje que identifique y unifique. No se puede cambiar la realidad si no se logra modificar el lenguaje.
En momentos de hiperconexión, volver a contactarse
POR MAURO LIMAS | Una ilusoria «comunidad» de la que nos creemos parte y que se nos vende como mercancía. Perdimos el cara a cara, lo colectivo y las relaciones interpersonales. Cada uno en su pantalla y nadie percibe al otro. La plataformización potencia el camino individual, más egoísta y competitivo. Frente a ello: la necesidad de retomar el contacto directo, franco, para volver construir comunidad.
