Entrevista con Flavia Costa: La inteligencia artificial y los «nuevos poderes inhumanos»
Tratándose de una metatecnología, los potenciales peligros de la IA abarcan una gran cantidad de áreas. La investigadora del Conicet insta a la creación de equipos interdisciplinarios que monitoreen y controlen un nuevo escenario que se impone a gran velocidad, de consecuencias impredecibles. Advierte que el único límite no puede ser la incipiente normativa legal sobre el tema, que en todo caso actúa a posteriori.
La inteligencia artificial evoluciona a un ritmo imprevisible. Puede acelerar la recolección e interpretación de datos, optimizar el uso de energía, hacer predicciones basadas en tendencias o anticipar fallas en equipos críticos, al tiempo que conlleva, en determinados usos, altos niveles de riesgo. El principal desafío es mantener una vigilancia permanente, en especial con respecto al cuidado de los derechos de la ciudadanía.
La investigadora de Conicet y profesora de las universidades de Buenos Aires y San Martín Flavia Costa estudia la evolución de la inteligencia artificial y sus impactos sociales y políticos; remarca sus potencialidades y advierte sobre sus implicancias negativas. Costa publicó el libro Tecnoceno. Algoritmos, biohackers y nuevas formas de vida (Taurus) en plena pandemia. Allí reflexiona sobre la capacidad del humano de «desencadenar tecnológicamente energías de altísima intensidad y altísimo riesgo». Enfocada en esta perspectiva, la experta en tecnologías dialoga con Página/12.
—¿Por qué habla de «Tecnoceno«? ¿Qué propone con ese concepto?
—El término «Tecnoceno» remite a la era en la que el humano se vuelve un agente geológico. Es una especificación del término «Antropoceno». ¿Cuál es ese antropos (humano) que deja huellas perdurables en los sedimentos, los océanos, la atmósfera y que actúa en escala planetaria? En los últimos años se propusieron, al menos, dos respuestas a esta pregunta. Una pone el acento en las relaciones sociales de producción capitalista, así como en los modos de acumulación, y afirma que el Antropocenoes en realidad es un Capitaloceno. La otra proviene de quienes estudiamos el despliegue acelerado de tecnologías en el último siglo, quienes sostenemos que el Antropoceno es un Tecnoceno. Que, tal como afirma la posición mayoritaria dentro de la Comisión Internacional de Estratigrafía, se inicia con la Era Atómica, cuando el humano fue capaz de desencadenar tecnológicamente energías de una intensidad inédita y de un riesgo igualmente grande: la energía nuclear, la petroquímica, la megaminería, la agroindustria, las biotecnologías, y también las tecnologías de la información. Estas energías desencadenadas, a la vez que permiten un enorme crecimiento en términos de población, longevidad, productos de consumo, producen cambios irreversibles —la pérdida de bosques tropicales, la crisis climática—, que hacen que ese crecimiento sea insustentable. Es la época del desencadenamiento de grandes potencias y grandes riesgos: nuevos «poderes inhumanos».
—Planteado que más que hablar de inteligencia artificial, cabría hablar de «sociedad artificial». ¿Por qué?
—Busco dar una discusión sobre cuáles son los ámbitos expertos que deben tratar con estos dispositivos. Porque estos sistemas no son incumbencia exclusiva de la ingeniería o de las ciencias de la computación. Si pensamos en los modelos de lenguaje grande que están en la base de chatGPT o Google Bard, tienen tres pilares importantes: las redes neuronales de aprendizaje profundo, una gran capacidad de cómputo en el nivel del hardware, y un enorme volumen de datos; esto es, la información provista por cientos de miles de usuarios de internet: por nuestros contenidos, formas de hablar, las figuras retóricas que empleamos. Para funcionar, los sistemas de IA generativa no solo dependen de la energía eléctrica o de la capacidad de cómputo, sino del conocimiento, de las habilidades lingüísticas y el trabajo cognitivo de una importante porción de la sociedad que se expresa en la red: cerca del 65 % de la población mundial. Y en el Cono Sur, más del 80 % de la población tiene acceso a Internet.
—¿Es decir que son sistemas que leen y procesan lo social?
—Exacto. Y que aceleran procesos de análisis y gestión de la reproducción social. Por un lado, ¿para qué se extraen esos saberes sobre lo social? ¿Quiénes se los apropian? ¿Cuáles son las prioridades en el desarrollo de estos sistemas? Por otro, si como decía Paul Virilio, toda tecnología nace con su accidente específico —con el tren se inventa el descarrilamiento; con el avión, el accidente aéreo—, ¿qué accidentes pueden advenir con una meta-tecnología como la IA?
—¿Cuáles podrían ser los accidentes de la IA?
Dado que la IA no es una tecnología sino una metatecnología, puede implementarse en áreas muy diferentes, por lo tanto no hay un único tipo de accidente. Podemos pensar en accidentes como el Flash Crash financiero de 2010, o los escándalos provocados por softwares para la gestión de asuntos públicos como el COMPAS, una herramienta usada por algunos tribunales de los Estados Unidos para evaluar el riesgo de reincidencia en delincuentes, o el SYRI (Sistema de Indicadores de Riesgo), para la detección de fraude en la solicitud de asistencia social en los Países Bajos, que terminó con unas veinticinco mil familias en la ruina y la renuncia en pleno del gobierno neerlandés en 2021. Se necesitan equipos interdisciplinarios capaces de estudiar y anticipar los accidentes de la IA, en particular cuando involucran riesgo para las personas. De evaluar estos sistemas durante el desarrollo y monitorearlos durante la implementación, como se hace en otras industrias de riesgo. No pueden tener como único límite la normativa, porque el derecho actúa a posteriori del accidente. ¿Quién se subiría a un avión si le dijeran: «No se preocupe, usted está seguro porque si hay una falla grave, la empresa irá a juicio y pagará una multa suculenta?»
MIRÁ TAMBIÉN
Con medios comunitarios la democracia se fortalece
POR BRENDA DANEY Y SEBASTIÁN JANEIRO | Un análisis de los avances logrados por los medios comunitarios en democracia, su situación actual y la necesidad de que el Estado acompañe a través de la habilitación de procesos de legalización de las emisoras que aún se encuentran en zonas de conflicto.
¿Qué hacer con el ChatGPT en las aulas? Los desafíos de la escuela ante el avance de la inteligencia artificial
POR AZUL TEJADA | Cada vez con mayor frecuencia, niñas, niños y adolescentes acuden al Chat.GPT. El avance de latecnología digital abre una serie de interrogantes y obliga a reprensar la enseñanza. El libro La inteligencia artificial ¿Necesitamos una nueva educación? de Susana Morduchowicz aborda el tema y puede descargarse de manera fratuita.dsdds sdsdsdsd
