¿Cuáles son los desafíos, las promesas y los problemas de la inteligencia artificial?
El filósofo y docente de la Universidad Nacional de Quilmes (UNC), Daniel Busdygan, reflexiona sobre el futuro de esta tecnología que presenta ilusiones y esconde dilemas éticos y políticos.
No es noticia que la inteligencia artificial (IA) está revolucionando progresivamente diferentes ámbitos de la vida humana. Solo para mencionar algunos de ellos, podemos hablar de educación, salud, economía, planificación y seguridad. En cada caso, con los cambios aparece conjuntamente la proyección de un rosario de promesas de transformaciones positivas que se darían de forma acelerada. No cabe duda que grandes modificaciones ya se realizaron. De hecho, el filósofo Éric Sadin habla sobre un quiebre en la historia de la civilización, a la vez que advierte sobre algunas de las sombras que vienen con estos cambios. Por eso, vale la pena preguntar: ¿todo lo que brilla siempre es oro?
Solo por tomar un ejemplo, hay aspectos de la IA en el ámbito de la educación que son notables, que cambiaron prácticas y que seguramente lo seguirán haciendo, de formas nuevas y en el corto plazo, en todos los niveles educativos. Estos sistemas tienen la capacidad de adaptar los métodos de enseñanza a las necesidades individuales de cada estudiante, trabajar en las dudas que tengan los estudiantes durante todo el tiempo que precise y lo requiera, personalizando así el proceso.
Además, la inteligencia artificial puede producir textos con una notable corrección y articular conversaciones de las cuales podemos aprender mucho. Entre las herramientas que provee la IA a la educación se halla también la capacidad de proporcionar evaluaciones en tiempo real y con retroalimentación inmediata, lo que permite tanto a los docentes como a la tecnología identificar rápidamente las áreas que necesitan mayor atención.
Cuál es el costo
Entre muchos de estos avances se hallan preocupaciones éticas significativas vinculadas con la privacidad de los datos de los estudiantes, además de la potencial deshumanización en la relación educativa. Si alguien presenta dudas, problemas y desconocimiento sobre cuestiones de estadísticas, la IA puede ser de ayuda como tutor incansable que permita resolverlas, ayudarnos a aprender mejor algunos conceptos propios de esa materia, ejercitar y poder avanzar como estudiantes.
No obstante, en esa relación con la IA entregamos información sobre nosotros mismos. Entonces, esta herramienta está al tanto de todo lo que sabemos y también lo que no sabemos, nuestras potenciales debilidades. A la vez, estos asuntos pueden vincularse con otros aspectos de la vida donde no somos estudiantes, sino potenciales consumidores. ¿Este es el precio?
Es claro que la inteligencia artificial se enfoca en la eficiencia y la optimización, y que esto no se limita al ámbito educativo, pues su injerencia puede ir más allá. En su racionalidad instrumental, la tecnología busca mejorar y optimizar sus procesos, y para ello, puede hacer que nos convirtamos en objetos.
¿La usamos o nos usa?
La información que vertemos sobre nosotros mismos a las empresas de IA puede ser usada para construir ofertas más eficaces que se conecten con nosotros como consumidores. Lo que hacemos en las redes y lo que dejamos de hacer es leído en el magma de datos para perfilarnos cada vez más.
La educación, una actividad intrínsecamente humana, y las necesidades educativas se transforman en un proceso técnico y despersonalizado. En la educación, cuando las plataformas de IA recopilan y analizan datos de los estudiantes para ajustar los métodos de enseñanza, existe el peligro de que los estudiantes sean reducidos a patrones de datos.
Esta lógica puede trasladarse a otros campos y no son claros los provechos que pueden venir de la mano de la inteligencia artificial. A diferencia de otras herramientas inventadas por los humanos, la IA nos puede usar a nosotros mientras nosotros la usamos a ella. Cada promesa tecnológica conlleva desafíos éticos y políticos que no deben ser desestimados y que deben poseer las regulaciones normativas que se precisen porque se están generando transformaciones radicales al interior de los mundos de la vida de las personas.
Debemos atender que la recopilación y el análisis de grandes cantidades de datos personales pueden perpetuar formas de pensar y actuar, a la vez que pueden plantearnos problemas serios sobre nuestra privacidad, autonomía y consentimiento. Además, la implementación de inteligencia artificial puede perpetuar sesgos existentes si los datos utilizados para entrenar los algoritmos no son representativos o están sesgados.
DANIEL BUSDYGAN
Filósofo, investigador y docente de la Universidad Nacional de Quilmes y la Universidad Nacional de La Plata.
MIRÁ TAMBIÉN
Ricardo Baeza-Yates: «Si alguien domina una tecnología como la IA, esa cultura también va a dominar globalmente»
POR BRUNO MASSARE | El experto chileno en ética y regulación en datos e inteligencia artificial (IA) habló en esta entrevista sobre la problemática de los sesgos en los modelos de IA generativa, los desafíos geopolíticos en la carrera por desarrollar aplicaciones y los dilemas que plantea el impacto de estas tecnologías en la sociedad.
¿Qué es la guerra cognitiva?
POR PACO CANO | La verdad no está en disputa, pues ya ha sido anulada, ahora se trata de anular también el discernimiento, la capacidad de pensar y de crear por uno mismo
Los datos del sur global y el colonialismo digital
POR ALFREDO MORENO | Lo que está en juego es la soberanía y la libertad para generar una estrategia de industrialización digital versus una estrategia de colonialismo digital que somete a regiones enteras a ser simples consumidores de tecnología y productos basados en datos.