El difícil diálogo entre las ciencias exactas y las ciencias sociales en torno a la inteligencia artificial

FERNANDO PEIRONE

Doctor en Estudios Sociales de América Latina (Línea Sociología), del Centro de Estudios Avanzados (CEA), de la Universidad Nacional de Córdoba. Docente e investigador de las universidades nacionales de San Martín (Unsam) y José C. Paz (Unpaz). Director del Observatorio Interuniversitario de Sociedad, Tecnología y Educación (Oiste).

Más artículos →

Para abordar la relación entre las disciplinas que genéricamente llamamos Exactas y las Ciencias Sociales en el contexto de la sociedad informacional y el desarrollo de la inteligencia artificial, es preciso hacer una breve genealogía del proceso de moralización filosófica que experimentó la técnica y el modo en que se trasladó a la tecnología, como su expresión más cotidiana y terrenal.^[1]Ver Lévy, 2007 [1997]. Para eso debemos remontarnos al año 1949, cuando un exalumno de Heidegger lo convocó a la ciudad de Bremen para que brinde cuatro conferencias, que el filósofo —con el regodeo ensimismado que lo caracterizaba— agrupó bajo el título «Visión de lo que es». Hay que decir que esas conferencias fueron circunscriptas a un grupo muy selecto de invitados, ya que en ese momento Heidegger permanecía apartado de la enseñanza por orden de las fuerzas aliadas, debido a su adhesión al régimen nacionalsocialista. Pero al mismo tiempo, fueron dictadas en un momento clave de su trayectoria intelectual porque en esas apariciones un tanto furtivas, tras un período de  silencio, Heidegger expuso un giro filosófico y lingüístico que parecía alejarlo de su interés  por la ontología fundamental para abocarse a cosas concretas y mucho más mundanas como la técnica.^[2]Existe un consenso bastante generalizado en que no hay un «joven» y un «viejo» Heidegger, porque en su obra no hay ruptura ni preocupaciones coyunturales sino un único proyecto filosófico … Continue reading En uno de esos encuentros, Heidegger dijo que la técnica no comparece como una cosa en sí, neutra y aislada del mundo, sino como una mundanidad que a través de su «utilidad» construye sentido.^[3]La versión más elaborada y más conocida sobre la técnica es de 1953 y corresponden a una conferencia que brindó en el marco de una serie de disertaciones en la Academia de Bellas Artes de … Continue reading Este posicionamiento fue un parteaguas porque rompió con la tradición que hasta ese momento observaba a la técnica desde el clivaje funcionamiento/no-funcionamiento, e identificó a la tecnología con una instrumentalización del mundo que trágica, inexorable y progresivamente nos aleja del Ser y del pensamiento reflexivo. Es importante señalar que ese pronunciamiento —ciertamente prejuicioso y estigmatizador de la tecnología— era contemporáneo de la sujeción que la Escuela de Frankfurt le atribuía a las industrias culturales, como una consecuencia directa de las tecnologías reproductivas, ya que condicionaban la autonomía individual y destruían la cultura crítica.^[4]Adorno y Horkheimer (1987) lo expresaron en Dialéctica del iluminismo; como antes lo había señalado Walter Benjamin (2003) en su trabajo sobre la reproductibilidad técnica y posteriormente —ya … Continue reading Aunque también hay que decir que a la postre fueron las propias industrias culturales las que paradójicamente tomaron la posta y, a través de la ciencia ficción y los escenarios distópicos, amplificaron y multiplicaron los fantasmas sobre la tecnología⁵.^[5]Para comprobarlo basta recorrer la zaga de películas de ciencia ficción y género distópico que van desde Ed Wood hasta series como Black Mirror, pasando por Blade Runner; Yo, robot y Her.

Producto de ese combo epocal, no exento de los efectos de la guerra, la tecnología se convirtió en un significante vacío sobre el que se empezó a proyectar una infinidad de prejuicios y temores que en el contexto de la Guerra Fría obstaculizaron su abordaje y limitaron su consideración. Treinta años después, quienes marcaron una diferencia con ese bloque de influencers antitecnología y saldaron la discusión teórica fueron los sociólogos de la perspectiva socio-técnica,^[6]Ver Bijker, 1984, 1987; Bijker y Pinch, 1987; Thomas y Buch, 2013. quienes basándose en los principios gnoseológicos del constructivismo social,^[7]El constructivismo social es el sustrato gnoseológico y epistémico de la perspectiva socio-técnica. demostraron que las tecnologías configuran sociedades tanto como ellas son moldeadas por las sociedades, en el marco de un proceso dialéctico donde intervienen ingenieros, diseñadores, usuarios y empresas con pujas e intereses sectoriales que determinan posiciones, dominios y formas de acumulación.^[8]Todas las tecnologías determinan posiciones, todas las tecnologías determinan ventajas, todas las tecnologías determinan dominio, todas las tecnologías determinan posiciones de acumulación. Ver … Continue reading

El fundamento teórico de base empírica expuesto de manera incontrastable por la perspectiva socio-técnica, ciertamente no terminó con la oposición entre el pensamiento reflexivo y el llamado pensamiento técnico, cuyo lastre todavía hoy funciona como una fórmula maniquea que ve en la tecnología una amenaza a la espiritualidad, incluso más preocupante —al parecer— que la que despliega el capitalismo financiero sobre nuestro presente y sobre el futuro común. Lo podemos ver, sin ir más lejos, en la obra de Byung-Chul Han, esa especie de cosplayer de Kwai Chang Caine^[9]En la serie Kung fu, Kwai Chang Caine —interpretado por David Carradine— era un solitario monje shaolín que viajaba por el lejano Oeste de los Estados Unidos imbuido de la filosofía de vida el … Continue reading que, aunque parece haber superado todos los males del mundo terrenal, no deja de producir libelos de autoayuda filosófica que terminan repitiendo el mantra heideggeriano, pero esta vez sobre internet y la cultura digital. Mientras tanto, encuestas internacionales como las de Bosch Tech Compass, revelan que a nivel global el 55 % cree que la IA hará del mundo un lugar mejor, y donde los encuestados de China e India son los más optimistas, con el 83 % y el 75 %, respectivamente.  Lo cual, habla al menos de dos miradas sobre la técnica que están en pugna y que no parecen dialogar, ni entenderse, ni detenerse.

Por supuesto, no se trata de negar los argumentos de quienes mantienen una distancia aprehensiva con la tecnología, pero tampoco debemos perder de vista que desde la máquina de vapor hasta las expresiones más espeluznantes de la técnica, como fueron la maquinaria de exterminio nazi y las bombas lanzadas sobre Hiroshima y Nagasaki, son una consecuencia irrefrenable de la cosmotécnica logocéntrica. A partir de lo cual, a modo de adelanto de una discusión que por falta de tiempo y espacio no podemos desplegar en este panel, pero que deberíamos saldar más pronto que tarde, no quisiera dejar de decir que resulta más «lógico» y apropiado ver en estos fenómenos los documentos de barbarie que —como dijo Walter Benjamin— identifican y definen al proyecto civilizatorio de Occidente desde hace casi tres mil años, antes que la expresión de una esencia propia de la tecnología, como sostuvo Heidegger^[10]Ver Yuk Hui, 2016, 2020a, 2020b, 2021; Tagnin, 2018; Peirone, 2022, 2024.

Esta discusión —ciertamente inconclusa— forma parte de las dificultades que gravitan  sobre las ciencias sociales para interlocutar con las ciencias exactas y, sin ser excluyente, para dar cuenta del devenir informacional.^[11]Siguiendo a Manuel Castells, entiendo al devenir informacional como el orden social de alcance global que deriva de las nuevas pautas de organización tecnosocial. (Castells, 2018:9). Por eso, admitiendo esta situación no del todo visibilizada, el Núcleo de Estudios sobre Tecnologías Digitales, Cultura y Sociedad (Idaes), el Observatorio Interuniversitario de Sociedad, Tecnología y Educación(Unsam-Unpaz) y la materia Tecnología y Sociedad de las Tecnicaturas Informacionales (Unpaz) reunieron en un grupo de WhatsApp a un equipo de investigadores que se aboca al estudio de la IA como fenómeno socio-técnico complejo, con la idea de intercambiar ideas, descubrimientos, aplicaciones, noticias, artículos y debates.

A continuación, voy a compartir un breve relato con las primeras derivas que tomó ese grupo, del que formo parte junto con los cuatro colegas que acompaño en este panel y a algunos otros que también participan de este workshop.

Opiniones cruzadas

Lo primero que hicimos, en medio de una maraña de mensajes que eran glosados con una gran variedad de emojis y stickers, fue acordar una serie de entrevistas con personas que utilizan la IA con fines profesionales, sobre todo del ámbito empresario; siempre con la intención —no del todo explícita— de explorar todo el espectro de prestaciones para analizar su aplicabilidad a las distintas disciplinas que engloban a las ciencias sociales. Después de un par de entrevistas, tras comprobar la ausencia de cientistas sociales en los equipos de desarrolladores, y aprovechando el nutrido capital social de nuestros allegados, armamos dos cuestionarios, uno para cientistas sociales y otro para los de ciencias exactas. Ninguna de las dos fueron muestras representativas, apenas sondeos intencionales con el fin de mapear problemáticas y empezar a confeccionar un estado del arte. Lo que sigue, sin ser exhaustivo ni abarcador de lo que arrojaron las encuestas, pone el foco en un emergente común que nos llamó la atención y que quisiera compartir con ustedes.

Exactas

Se podría decir que entre los desarrolladores y especialistas en ciencias exactas que encuestamos, observamos que los cientistas sociales gozan de una muy buena consideración. En una de las preguntas donde los encuestados podían explayarse sobre cuál era el aporte que podía hacer un cientista social en un equipo interdisciplinario, dijeron —por ejemplo— que podían enfrentar desafíos comunicacionales, mejorar el trabajo en equipo y evitar sesgos que distorsionen la representación de las diversidades sociales. Pero cuando les preguntamos si, de acuerdo a su experiencia, los emprendimientos de IA contemplan alguna perspectiva social, el 63 % de este modesto paneo dijo que no. Y cuando les preguntamos si en su equipo hay alguien que provenga de las ciencias sociales, el 82 % dijo que no. Posteriormente, en una búsqueda global complementaria, asistida por diferentes aplicaciones de inteligencia artificial, encontramos muchos papers de distintas procedencias que ponderan la integración de cientistas sociales a los equipos de desarrolladores, porque enriquecen los proyectos y contemplan los desafíos éticos, asegurando que sean socialmente responsables y equitativos.

Sociales

Entre los cientistas sociales encontramos que también se consideran capaces de «evitar sesgos», de tener en cuenta «aspectos éticos y normativos», de «politizar el debate sobre la IA», de «pensar sus implicancias en la organización social», de «reflexionar sobre los riesgos», de «aportar herramientas para regular su uso».

Cuando les preguntamos si, de acuerdo a su experiencia, conocen equipos donde participen cientistas sociales y desarrolladores, el 53 % dijo que no. Y cuando les preguntamos cuál era el rol de los cientistas sociales en esos equipos, nos dijeron «contextualizar y traducir lenguajes al uso de actores sociales», «definir políticas de uso», «trabajar sobre buenas prácticas de gobierno» y «realizar aportes para una perspectiva crítica».

Por su parte, cuando les preguntamos qué pueden aportarle los desarrolladores a las ciencias sociales, contestaron: «desmitificación del comportamiento maquínico», «ampliación de la capacidad de análisis», «modelización de promps», «conocimientos técnicos sobre los modelos de razonamiento» y «desarrollar herramientas que mejoren las investigaciones sociales»; pero también «repensar la construcción de verdad sobre las nuevas herramientas», «análisis de la gubernamentalidad algorítmica dominante». De esta pequeña muestra, el 82 % dijo que usa herramientas de IA (mayormente ChatGPT) para optimizar el trabajo investigativo.

Encuentro – desencuentro

En esta acotada exploración, que por el momento no incluye repositorios institucionales ni reportes de empresas, resulta curiosa la coincidencia en la mirada general que ambos grupos tienen sobre el rol de las ciencias sociales y, consecuentemente, sobre lo que se espera de ellas. Como si la identificación de lo «normal», lo «representativo» y lo «correcto» se hubiera convertido en una expertise del campo sociológico para asegurar representación y demostrar imparcialidad.

Esta situación, en cierto modo repone el contenido de un artículo que Marcelo Urresti publicó treinta años atrás bajo el título El malestar de una cultura^[12]Un título que, claramente, está en las antípodas del ensimismamiento heideggeriano. Ver Urresti, 1998. y al que a la distancia podríamos interpretar como una especie de carta abierta que escribió para advertir que el enfoque cuantitativo y la normatividad se estaban convirtiendo en la sociología mainstream. Digamos que fue una especie de alerta dirigida al campo para recordar que el objetivo de las ciencias sociales no es el dominio técnico de lo social; y que si no se tomaba la decisión de corregir esa tendencia, terminaríamos dañando su capacidad crítica y transformadora; y, por lo tanto, su crédito social. El mismo crédito que hoy vemos menguado al comprobar que colegas de otras disciplinas, aguzando la mente, consideran que podemos ayudarlos a sortear desafíos comunicacionales y a mejorar el trabajo en equipo; cuando, atribuyéndonos expertise en normalidad, esperan que garanticemos la representación de todas las diversidades; o cuando, en el mejor de los casos, esperan que midamos el impacto social de las innovaciones tecnológicas. Exactamente al revés de lo que aprendimos con Habermas cuando decía que la teoría social debe servir para escuchar y leer los intereses, las necesidades y los deseos generalizables, sobre todo aquellos que son reprimidos por el discurso hegemónico, para elaborarlos y devolverlos al mundo de la vida como saberes socialmente válidos, aún en los  temas más específicos e intrínsecamente complejos.^[13]Ver Habermas, 1999. Dicho de otro modo, y ampliando el espectro, si socialmente no somos retribuidos con el reconocimiento de las expectativas, es porque tampoco las estamos generando; o porque cunde la idea social de que no podemos ofrecer lo que se espera o se necesita. Y los cientistas sociales, después de haber leído a los pragmatistas, sabemos que cuando algo se define socialmente como real, son reales también sus consecuencias. Lo cual no deja de ser preocupante en un contexto 1] donde la interacción con objetos técnicos complejos como la inteligencia artificial, interpelan el modelo cognitivo logocéntrico y, por añadidura, su idea de sociedad;^[14]Ver J. Habermas, 1999. 2] donde las tensiones entre el software libre, el hackerismo, las narrativas expandidas y las funciones delegadas en los algoritmos están disputando y configurando la politicidad del orden social emergente; y 3] donde la proliferación de saberes tecnosociales adquiridos por fuera del sistema educativo, establecen un marco epistémico divergente que —en los términos de Habermas— podría ser generalizable, pero que en lugar de eso son ninguneados por el discurso hegemónico mientras, en paralelo, los extraen y aplican a modelos productivos desterritorializados, precarizadores y evasores para consolidar posiciones de acumulación cada vez más concentradas.

Cuánto de esto es el emergente de un decir endogámico, autocomplaciente y cada vez más hermético de las ciencias sociales; cuánto es el resultado de una institucionalidad académica que se fue fusionando con el capitalismo neoliberal y su prolongación financiera;   y cuánto de los prejuicios atávicos influyen en el analfabetismo tecnológico de las ciencias sociales son algunas de las preguntas que surgen y que institucionalmente nos proponemos dilucidar. Porque si bien no padecemos el descrédito social del sistema judicial, el lugar que al parecer ocupamos en el imaginario social y entre los colegas de otras disciplinas, no es mejor ni menos preocupante.

* Ponencia leída en el panel «IA, Educación y avances para la investigación social» durante el International Workshop on Public Policies and Artificial Intelligence: confronting new realities and challenges / Taller Internacional sobre Inteligencia Artificial y Políticas Públicas: Afrontar Nuevas Realidades y Desafíos desarrollado durante los días 14 y 15 de noviembre de 2024. Auditorio Lectura Mundi, Universidad nacional de San Martín.