La inteligencia artificial generativa promete mucho, pero recicla lo que ya existe
Esteban Magnani, escritor y periodista especializado en tecnología, advierte que la inteligencia artificial generativa (IAG) no es creatividad, sino estadística que depende del trabajo humano. En diálogo con Anccom sobre su último libro, La mano invisible detrás del algoritmo, cuestiona las promesas de las grandes corporaciones, alerta sobre sus usos políticos y educativos y sostiene que estas tecnologías se insertan en la lógica de burbuja del capitalismo.
Magnani acaba de publicar La mano invisible detrás del algoritmo (Prometeo), un libro en el que examina las falsas promesas con que suelen presentarse las innovaciones tecnológicas. Consultado acerca de la IAG, explicó que se trata de un fenómeno que se suma a la larga lista de burbujas digitales, que «va un paso más allá de lo que entendíamos como inteligencia artificial: no solo organiza y encuentra patrones entre datos, sino que los recombina para producir algo que parece nuevo». De inmediato precisó: «no es creatividad, es estadísticaۚ. Y retomando a Evgeny Morozov, señaló que «no es inteligencia porque depende de patrones, y no es artificial porque se nutre de insumos humanos».
A la pregunta acerca de si las personas son conscientes de que entrenan a estas IA con los rastros que dejan en internet, respondió que la mayoría vive bajo el hechizo de un «pensamiento mágico». Según advirtió, se suele creer que la tecnología «cae del cielo», sin notar que detrás hay empresas que extraen masivamente datos y trabajos sin permiso. Recordó que lo escrito en herramientas como Google Drive termina alimentando esos modelos, aunque las compañías lo nieguen.
Interrogado sobre la confiabilidad de la IAG, remarcó que «está lejos de ser infalible». Y ejemplificó con la estadística del pollo: donde un promedio puede ocultar realidades extremas. «Una persona —explica Magnani—come un pollo— y otra persona no come nada, la estadística te dice que en promedio se comió medio pollo cada uno, pero depende de los datos con los que fueron entrenados, y los datos en general están errados, contienen incluso errores de seres humanos que la IA no cuestiona porque no tiene un criterio. Reproduce lo mismo con lo que fue cargado». Es decir, los sesgos y errores humanos con los que se entrena la IA se replican sin filtro.
En cuanto a los riesgos políticos, subrayó que la IAG facilita la producción masiva de contenidos que saturan las redes de desinformación. Citó a Cory Doctorow, quien habla de la enshittification de internet, y recordó la estrategia de Steve Bannon de «inundar la zona de mierda» para desorientar a la ciudadanía. En su visión, la IA multiplica esa capacidad de manipulación en beneficio de la ultraderecha.
Al indagar qué queda tras despejar el humo tecnológico, Magnani comparó con burbujas previas. «Con blockchain y las criptomonedas se prometió democratizar las finanzas, pero fueron grandes financieras las que aprovecharon la tecnología para enriquecerse y provocar crisis». Algo similar, sostuvo, ocurre con el metaverso, anunciado por Zuckerberg para distraer a accionistas y que hoy está prácticamente olvidado.
Consultado sobre el impacto en el periodismo, señaló una contradicción de base: la IAG recicla lo existente, mientras el oficio se nutre de lo novedoso. «Un algoritmo puede redactar una crónica de fútbol solo porque antes un humano describió ese partido y cargó los datos», afirmó. En un contexto de crisis de los medios, donde se exige a los periodistas producir en masa, la IA se convierte en un recurso para abaratar costos, aunque devalúe aún más el trabajo profesional.
A la pregunta acerca de los campos donde estas tecnologías buscan instalarse, explicó que apuntan a áreas con mucho financiamiento, como la guerra, la educación y la salud. «Es la necesidad de prometer que van a resolverlo todo para justificar inversiones millonarias». En el caso educativo, alertó que usar IA para resolver tareas equivale a entrenar con una grúa en lugar de levantar pesas: «el músculo —en este caso el cerebro— no se desarrolla».
Magnani también planteo un riesgo mayor: si las IA llegaran a reemplazar masivamente a los profesionales, terminarían entrenándose con sus propios productos, lo que multiplicaría sesgos y errores. Desde su perspectiva, la IAG no es la promesa emancipadora que venden las corporaciones, sino una herramienta más dentro de un capitalismo de plataformas que busca disciplinar y controlar.
TAMBIÉN TE PUEDE INTERESAR
La burbuja de la inteligencia artificial
POR DAVID MOSCROP | Al igual que en las anteriores oleadas de automatización, la IA no va a desaparecer. Y tanto si prospera como si se derrumba, la lucha se centra en a quiénes beneficiará.
A pedido de los grandes medios, el gobierno desreguló la distribución y venta de diarios y revistas
POR RANDY STAGNARO | Mediante un decreto disolvió la relación laboral que vincula a canillitas y editores. Además, abrió la actividad a la competencia de terceros y la sujetó al Código Civil y Comercial de la Nación. Pero disfrazó todo eso con la posibilidad de que los kioskos repartan paquetes y correspondencia.
¿Publicidad disfrazada de periodismo? Reflexiones a partir de «El sueño argentino» en The Washington Post
POR KIRVIN LARIOS | Un informe publicado en la sección Creative Group de The Washington Post sacude las fronteras éticas entre periodismo, publicidad y política. El docente Fernando Ruiz y la periodista Catalina Oquendo analizan el caso y abordan las consecuencias en la desinformación, la transparencia y la confianza de las audiencias.
La IA redefine la información
POR SILVANA COMBA Y EDGARDO TOLEDO | La IA es un medio que extiende el lenguaje, es una nueva forma de tecnología cultural y social. Cómo estructurar el contenido de tal manera que pueda ser citado por la IA. Hay nuevas reglas para el citado de la IA. La IA Generativa amplifica la fragmentación al crear contenido infinito y adaptativo.
