La industria de la mentira: cómo detectarla en la era de la inteligencia artificial
Agencia Pública —la primera agencia de periodismo de investigación sin fines de lucro de Brasil— ha lanzado un ebook gratuito sobre la desinformación en la era digital, desarrollado por la periodista Natalia Viana, directora ejecutiva y cofundadora de Pública, y el tecnólogo Babak Fakhamzadeh. El material explica qué es la desinformación, cómo funcionan las noticias falsas y qué estrategias hay detrás de la creación y circulación de este contenido. También presenta una guía práctica con seis pasos para identificar noticias falsas
La imagen más difundida sobre la desinformación es la de un familiar mayor que, de buena fe, reenvía una mentira en el grupo familiar. El informe sostiene que ese engaño individual existe, pero no es el motor que explica la escala del fenómeno: una mentira amateur, creada de manera aislada, rara vez logra infiltrarse en miles de grupos o saturar simultáneamente todas las redes. Cuando una falsedad alcanza dimensión nacional, hay una infraestructura profesional detrás.
Esa infraestructura tiene división de tareas: estrategas que diseñan la narrativa, creadores de contenido falso que producen memes, videos e imágenes manipuladas, activistas orgánicos que reenvían por afecto o pertenencia ideológica, influencers que amplifican de forma espontánea o mediante contratos velados, «periodistas» autoproclamados que dan barniz de legitimidad, políticos que institucionalizan el rumor, sitios ultrapartidarios que imitan la estética de medios tradicionales, y financistas que sostienen todo el circuito. La estética tosca de muchos de estos contenidos, señala el informe, suele ser deliberada: forma parte de un diseño profesional pensado para parecer espontáneo.
El caso que usa Pública para probar que este mecanismo no es solo electoral es el de iFood: la empresa de delivery financió de manera oculta una agencia de publicidad para crear perfiles falsos que infiltraran y difamaran a líderes sindicales de repartidores. La investigación fue confirmada judicialmente y derivó en una multa, aunque —advierte el reporte— la agencia operadora quedó fuera de sanción, lo que expone un vacío regulatorio todavía vigente.
Detrás de esa maquinaria, el informe identifica tres objetivos: desgastar electoralmente a un rival y erosionar la confianza en las instituciones democráticas; instalar una polarización binaria que funcione como cortina de humo frente a escándalos o debates de política pública más complejos; y, de manera más simple, generar ingresos por publicidad y estafas.
Cuatro formas de fabricar una mentira
El documento clasifica la desinformación en cuatro tipos. El «contexto falso» toma un hecho real y lo inserta en una narrativa inventada, lo que le da una capa de credibilidad porque una verificación superficial confirma que «algo» efectivamente ocurrió. El «contenido impostor» usa sin autorización logos, tipografías y estética de medios reconocidos para prestarle autoridad visual a una mentira. El «contenido manipulado» interviene material real —cortes de video fuera de contexto, imágenes editadas, subtítulos alterados— para contar una historia distinta de la original. Y el «contenido fabricado» es la forma más extrema: no hay base factual alguna, y la IA generativa abarató drásticamente su producción, poniendo al alcance de cualquiera la fabricación de imágenes, audios y videos sintéticos de alta calidad.
Seis preguntas antes de compartir
Frente a esta industria, Pública propone un protocolo de verificación en seis pasos. Primero, desconfiar del sensacionalismo: los títulos en mayúsculas y las apelaciones al «urgente» o «desenmascarado» buscan la reacción emocional antes que la información. Segundo, evaluar la verosimilitud: preguntarse si los actores involucrados podrían realmente actuar de ese modo, más allá de que la imagen sea técnicamente perfecta. Tercero, rastrear la fuente original y comprobar si quien publicó tiene trayectoria profesional o apenas repite rumores. Cuarto, consultar agencias de verificación. Quinto, aplicar el «test de los grandes medios»: si un hecho verdaderamente grave estuviera ocurriendo, medios con redacciones amplias ya lo habrían publicado. Y sexto, ante la duda, no reenviar: el sistema de desinformación depende de la colaboración voluntaria de quienes comparten sin verificar.
Por qué confiar en el método periodístico
El informe dedica un capítulo a explicar qué distingue a la verificación periodística de una búsqueda casual. El método exige fuentes primarias —documentos oficiales, registros visuales auténticos, testigos presenciales, rastros digitales, bases de datos— y una regla básica: ninguna información relevante se publica sin al menos dos fuentes primarias independientes que la confirmen. Ese proceso, sostiene el texto, puede demandar días o meses e incluye cruce de datos, verificación documental y revisión legal antes de la publicación. El buen periodismo, agrega, rechaza además la simplificación de reducir los hechos a «dos lados»: la complejidad social no siempre admite esa polarización binaria. Para evaluar el rigor de un medio, el informe sugiere mirar la transparencia de sus fuentes, la coherencia lógica de sus conclusiones, su reconocimiento en el tiempo y si sus investigaciones son citadas por pares.
La IA no verifica, calcula probabilidades
El cierre del informe reencuadra el debate sobre inteligencia artificial. Su primer señalamiento es terminológico: «inteligencia» es una palabra imprecisa para describir sistemas que en realidad son algoritmos que calculan probabilidades sobre qué palabra o imagen es más probable que siga a otra, a partir de patrones aprendidos en enormes volúmenes de datos históricos. Esa arquitectura implica una limitación estructural: la IA no verifica hechos, y si una afirmación sin pruebas circula masivamente en internet, el sistema puede reproducirla como si fuera cierta, porque solo detecta que esa asociación de términos es estadísticamente probable.
De esa limitación derivan dos advertencias. La primera es el sesgo algorítmico: como los modelos se entrenan con datos producidos por sociedades con historiales de discriminación, heredan y amplifican esos patrones —el informe pone como ejemplo un sistema predictivo de reincidencia criminal entrenado sobre un historial judicial racista, que terminaría asociando a personas negras con el delito no por evidencia sino por sesgo estructural preexistente—. La segunda es el costo material: sostener estos sistemas requiere centros de datos cuyo consumo eléctrico e hídrico puede superar al de ciudades enteras, en un esquema de control concentrado en corporaciones que operan para maximizar ganancias esquivando marcos regulatorios.
La conclusión del informe es explícita: la inteligencia artificial puede ser una asistente útil para tareas mecánicas, pero jamás debería usarse como herramienta de búsqueda de la verdad factual. La verificación, cierra el texto, sigue siendo «un deber estrictamente humano».
SEGUIR LEYENDO
Palabras y relatos con los que las nuevas derechas disputan el sentido común
POR MARCELO VALENTE | Desde el 24 de julio, el medio europeo Le Gran Continent publica en acceso libre «El vocabulario de la extrema derecha», una obra colectiva coordinada por el historiador Steven Forti que reúne a especialistas de distintos países para analizar las palabras, conceptos y relatos con los que las nuevas derechas disputan hoy la hegemonía cultural. En una entrevista concedida al propio medio, Forti explica por qué comprender ese lenguaje se ha convertido en una condición indispensable para entender la política contemporánea.
El desierto de nosotros mismos
POR ESFERA REDACCIÓN | Desde la irrupción de ChatGPT, la inteligencia artificial comenzó a ocupar un territorio que parecía exclusivamente humano: producir lenguaje, imágenes, interpretar el mundo y crear sentido. En El desierto de nosotros mismos, Éric Sadin analiza las consecuencias de esta delegación y advierte sobre el riesgo de una humanidad que, al ceder sus facultades al algoritmo, termine convertida en espectadora de su propio mundo.
La mano invisible detrás de la promesa tecnológica
POR ESFERA REDACCIÓN | En su último libro, «La mano invisible detrás del algoritmo», Esteban Magnani recorre las promesas, negocios y contradicciones de la revolución digital. Del nacimiento de la web a la inteligencia artificial, el autor propone correr el velo de la fascinación tecnológica para mirar las fuerzas económicas, políticas y sociales que están detrás de los algoritmos.
Cuando los trabajadores dejaron de ser noticia
POR ESFERA REDACCIÓN | La desaparición de la clase trabajadora de la agenda de los grandes medios no fue casual ni exclusivamente ideológica. En «No Longer Newsworthy: How the Mainstream Media Abandoned the Working Class» (Ya no es noticia: Cómo los grandes medios de comunicación abandonaron a la clase trabajadora), Christopher R. Martin reconstruye cómo el giro comercial del periodismo estadounidense modificó la forma de contar el mundo del trabajo y contribuyó a la crisis de representación que atraviesan las democracias contemporáneas. La reflexión del libro también interpela a los medios argentinos.
