IA: más artificial que inteligente

Imagen generada con IA con fines ilustrativos.

Los desarrollos basados en inteligencia artificial crecieron tanto como los dilemas y temores sobre sus impactos. Trabajo, educación, medio ambiente y soberanía son algunas áreas en tensión. Fernando Schapachnik, investigador de Exactas UBA, brinda un panorama sobre esos desafíos, desarticula mitos optimistas y distópicos y expresa su preocupación por la manera en que estas herramientas están afectando la capacidad de pensar de los seres humanos.

IDEAS CLAVE

1. La IA no es una sola tecnología. Schapachnik distingue entre la inteligencia artificial en general y los modelos de lenguaje como ChatGPT. Estos últimos no razonan: predicen qué texto tiene mayor probabilidad de responder a una pregunta, aunque su funcionamiento pueda producir la apariencia de razonamiento.

2. El impacto de la IA es desigual y sectorial. No todas sus aplicaciones tienen las mismas consecuencias. Mientras algunos usos pueden resolver tareas repetitivas, peligrosas o costosas, los modelos de lenguaje comienzan a transformar determinadas profesiones, especialmente los puestos junior de programación, ingeniería de software y atención al cliente.

3. La discusión también es ambiental y laboral. El desarrollo de los grandes modelos demanda enormes cantidades de energía y agua y está concentrado en unas pocas grandes empresas. A la vez, detrás de la automatización existe trabajo humano —incluido el entrenamiento de los modelos— que muchas veces permanece invisibilizado y se realiza en condiciones precarias.

4. El principal riesgo puede estar en la pérdida de capacidades cognitivas. Más que el anunciado reemplazo masivo del trabajo, preocupa el efecto de delegar en los modelos tareas que deberían servir para aprender, investigar y pensar. La educación aparece como un terreno especialmente sensible: si se elimina el esfuerzo intelectual que supone atravesar una dificultad, se puede completar una tarea sin necesariamente producir aprendizaje.

5. La respuesta no es adaptarse acríticamente, sino comprender la tecnología. Frente al alarmismo y las promesas de una futura inteligencia general, Schapachnik propone recuperar el pensamiento crítico: enseñar cómo funcionan estos sistemas, estudiar sus sesgos, costos e impactos y preservar la inteligencia humana como capacidad que debe ejercitarse. En sus términos, «no necesitamos máquinas que piensen por nosotros».

Un fantasma recorre el mundo. Se propaga como un eco lejano y deforme de aquella apuesta por el progreso indefinido de la humanidad a fuerza de ciencia y técnica. Hoy, la inteligencia artificial alimenta fantasías para apocalípticos y devotos por igual, y la idea de superar lo humano se juega en ambos sentidos: el de la amenaza y el de la utopía de una eficiencia sin antecedentes. Ambos dificultan pensar críticamente qué está pasando.

Fernando Schapachnik, investigador del Conicet en el Instituto de Ciencias de la Computación de la Facultad de Ciencias Exactas y Naturales de la UBA, se ocupa de desarmar el artilugio: «A mí me gusta separar las aguas. Cuando la gente habla de IA suele referirse a los grandes modelos de lenguaje —los LLM, por sus siglas en inglés—, son los chatbots como Chat GPT. La IA en general es otra cosa y se las debe considerar de forma diferente», introduce.

«Algo que es importante entender es que ninguno de estos modelos razona, son simples predictores de texto», remarca enfático. «Si los entrenás con una enormísima cantidad de texto, la capacidad de predicción se parece al razonamiento, pero no lo es», completa. Y señala que las opciones que hacen que el chatbot reponga cómo fue que llegó a la respuesta tampoco lo son: «Es predecir el texto que sería el plan para resolver esa pregunta. Eso no es un proceso de razonamiento, es un truco astuto que funciona bien».

Fernando Schapachnik

«Los modelos de lenguaje son un tipo específico de IA. Todos los problemas que vamos a mencionar ahora se refieren a esa tecnología».

«Hace treinta años se planteó generar en las computadoras la capacidad de razonamiento y planificación: que un robot en un terreno con obstáculos encuentre el mejor camino. Se buscaba emular cierto razonamiento lógico, pero no funcionó. Hoy, la búsqueda es por la predicción de textos: cuál es el que tiene la mayor probabilidad de ser la respuesta a la pregunta hecha, dado todo lo que ya fue prediciendo. Lo mismo ocurre con las imágenes», resume.

Insiste en que no toda IA da lo mismo: «Usar un modelo para colocar una cámara cenital en una línea de producción y detectar fallas es algo sencillo, económico, no consume grandes recursos ni reemplaza trabajo humano, porque es una tarea fatigosa e insalubre. Cuando trabajé en la Fundación Sadosky desarrollamos muchos proyectos, uno de ellos buscaba procesar el rebote de una señal sonora en un pozo de petróleo, para estimar su remanente. También se puede usar IA para medir fluidez lectora o para diagnósticos médicos. Hay muchos usos muy buenos. Los modelos de lenguaje son otro tipo de IA. Todos los problemas que vamos a mencionar ahora se refieren a esa tecnología».

«Lo primero que hay que decir es que estamos hablando de depredadores ambientales ofrecidos por un núcleo concentrado de empresas», sentencia Schapachnik, y aclara que eso no vale para el resto de la IA. «No podemos abstraernos de la enorme cantidad de agua que hace falta para refrigerar el equipamiento que necesitan y el gran consumo energético, los propios reportes ambientales de las empresas lo reconocen. Estamos hablando de cuatro o cinco en un mercado que tiende a concentrarse cada vez más».

— Sin ánimos de culpabilizar a nadie, es necesario indicar que hay un grado de conflicto entre reciclar, separar la basura y cuidar el agua y usar estos modelos para jugar con imágenes. Es algo sistémico, hay toda una mecánica que lleva a su uso, se pone de moda y es difícil resistirse. Además, no todo el mundo conoce su impacto ambiental.

– Todavía no podemos medir del todo su impacto en el mundo del trabajo. Empiezan a aparecer estudios que permiten ver señales mixtas. Uno de los más contundentes hasta la fecha es de un economista norteamericano que tomó la base de datos de una empresa que factura a miles de compañías estadounidenses. Concluye que no hubo una afectación general del empleo, aunque sí hay un claro impacto en algunas profesiones en los puestos juniors. Programación e ingeniería de software es una de las más afectadas. También los servicios al consumidor, como la atención al cliente. El estudio se preocupó por analizar si en esas profesiones también había afectación para los cargos senior y la respuesta es negativa. Tampoco para los juniors de otras profesiones.

— Hay que tener en cuenta que la mayoría de las empresas argentinas de software se dedican a vender equipos de trabajo a otras empresas más que a fabricar un producto. Básicamente, se cobra por hora de trabajo de cada profesional. Estamos hablando de más de cinco mil consultoras con más de 150 mil personas, con mucha exportación. Y efectivamente, una de las cosas que estos modelos hacen muy bien es programar. Entonces, hay un aumento de la productividad individual con apoyo en modelos de IA y, por ende, se necesita mucha menos gente. Un reciente documento de la Cámara Argentina del Software expresa claramente esta preocupación, porque su modelo de negocios está en crisis. Si bien no es razonable hablar de impacto masivo, sí hay sectores que están cambiando drásticamente. La pregunta que todo el mundo se hace, y que aparece en otras profesiones, es cómo se van a formar los profesionales senior del mañana si las tareas que antes se les daba a los juniors hoy las realizan estos modelos de lenguaje. Esa es una preocupación creciente sobre la que nadie tiene una respuesta.

Fernando Schapachnik se apasiona al hablar, cita datos, estadísticas, experiencias personales, desarrollos locales. Sostiene que la universidad debe señalar las contradicciones y ejercer pensamiento crítico frente al fenómeno IA y manifiesta su desacuerdo con el tono alarmista y distópico con el que muchas veces se habla del tema.

— Yo no estoy de acuerdo con el alarmismo. Diría que el principal elemento diferenciador va a ser la inteligencia humana. Además, no comparto el planteo de un escenario de catástrofe mientras se ofrece una clave de salvación individual. Creo que seguirá pasando lo mismo que hasta ahora. Al contratar a alguien, las organizaciones no eligen a quien tiene mayores habilidades operativas, sino a quien es más inteligente, porque esas habilidades las adquiere rápidamente. Lo que le diría a un sobrinito o una sobrinita es que lea libros, los más difíciles que pueda, que ejercite su pensamiento, porque luego puede aprender estas cosas con un tutorial de tres minutos. Otra preocupación es el descenso de la calidad de las profesiones. Incluso las personas que no están siendo reemplazadas por máquinas se ven tentadas a utilizar los modelos de lenguaje. Ya sea porque les ahorra tiempo o porque sienten que ese nivel de producción escrita está muy lejos de sus propias capacidades. Hay quienes piensan que no podrían llegar a ese nivel de análisis. Esto tiende a una homogeneización de las producciones.

En el mundo educativo hay mucha insistencia para incorporar estas herramientas, hay que decirlo: empujada por las empresas que están detrás. Es un negocio enorme. A mí me gustaría levantar la voz en contra del discurso derrotista. La idea de que esto ya está instalado y no se puede hacer nada. Hay algo que también pasa en el mundo laboral, pero que en el educativo se ve de manera más categórica: es el daño a nuestra capacidad de pensar. Si hay alguien que se siente presionado por el tiempo, enfrentado a tareas que no le gustan y que muchas veces están por encima de sus propias capacidades —porque se trata de que logre determinado nivel—, y además tiene muchos motivos para tener inseguridades acerca de la calidad de lo que hace, es, por definición, un estudiante. Y lo que está pasando ahí es calamitoso, porque uno asigna todas esas tareas para lograr el aprendizaje y nutrir la capacidad de pensamiento crítico.

— El conocimiento no está disociado de la inteligencia, se retroalimentan. Para pensar sobre un tema, hay que conocerlo. Y, además, se debe ejercitar. Es como un músculo. Entrenar tiene que ser un desafío. Con el pensamiento es igual. Recientemente, leí a un investigador en ciencias educativas que afirma que la tarea escolar se le presenta al estudiante como un roce, tiene una dificultad. Y se aprende al transitarlo. Si encontrás formas de saltar el desafío no estás aprendiendo, por más que termines la monografía o la actividad que tengas que hacer. Empezamos a tener evidencias que respaldan esto. Un estudio del MIT del año pasado tomó a un conjunto de voluntarios y los dividió en tres grupos. Les pidieron hacer una monografía. Un grupo podía ayudarse googleando, el otro, con Chat GPT, y el tercero no podía usar nada. Al terminar, les pedían que expusieran lo que habían escrito. Del grupo que no tuvo ningún tipo de asistencia, entre un 80 y 90 %, recordaba perfectamente lo escrito; el grupo que googleó obtuvo resultados similares; el que usó Chat GPT, al revés: entre el 80 y el 90 % no pudo reponer lo hecho. La consigna pedía usarlo como ayuda, no automatizar la tarea. Esto se relaciona con el mito del buen uso. Aun cuando se dé un uso consciente, el resultado es pésimo. Y habría que preguntarle a cualquier docente si sus alumnos en realidad hacen un «uso consciente». Lo que se observa es que no.

— Por supuesto, pero como objeto de estudio. En la escuela tenemos que explicar cómo funciona. Vos tenés que entender por qué cuando tipeás un mensaje le llega a otra persona, cómo funciona una computadora y tantos sistemas que usamos todo el tiempo que no tienen IA, pero están programados por alguien. Todo eso sigue siendo válido de enseñar y, ahora, se suma cómo funcionan estos sistemas de inteligencia artificial. A mí me gusta decir que son más artificiales que inteligentes. Son como una forma avanzada de la estadística, más que un cerebro que planifica, que piensa, que sopesa, es un sistema que trata de encontrar el texto que más se parece.

El investigador comenta que el Plan Ceibal de Uruguay —el homólogo a lo que en Argentina fue Conectar Igualdad— lo convocó recientemente para escribir dos secuencias didácticas para nivel secundario sobre IA. «Una más técnica, donde empezamos explicando cómo funcionan los sistemas de clasificación y cómo puede la computadora lidiar con textos. Y otra de índole social, donde indagamos sobre sus impactos, el problema de los sesgos, el uso de energía, su funcionamiento en centros de cómputo gigantes, los trabajadores ocultos que hacen el proceso de entrenamiento, muchas veces en condiciones precarias, en países más subdesarrollados y periféricos que el nuestro», sintetiza.

— Sobre ese punto, hay mayor evidencia acerca de la ola de automatización en la industria automotriz entre fines de la década del ochenta y principios de la del noventa, con fábricas que se robotizaban. En ese momento también hubo una discusión sobre el fin del empleo. El resultado final, a más de treinta años, es que eso no ocurrió, sino que aumentó fuertemente la desigualdad por nivel educativo. La brecha salarial por nivel educativo había sido más o menos constante a lo largo del tiempo, a partir de la automatización, se separan las curvas. Se les empieza a pagar más a quienes tienen mayor conocimiento. Las tareas que quedan con menor calificación, se pagan menos. Si las puede hacer la máquina a cierto precio, tienen que ser más baratas. En el mundo de la uberización, esto es un peligro acentuado, aunque todavía no sabemos qué va a pasar porque no tenemos datos que muestren, salvo en algunos sectores, que la automatización con IA sea tan exitosa.

— También ahí hay mucha exageración de las capacidades de los productos por parte de las empresas. Estamos viendo impacto, pero en la universidad nos toca matizar y abordar la complejidad. Esto es: vemos impactos en determinados fragmentos de algunos sectores de la economía, no tan masivos como se esperaba, pero sí con mucha incertidumbre. En cambio, sí estamos viendo efectos en la pérdida de habilidades cognitivas, tanto en trabajadores y trabajadoras como en estudiantes. Eso es gravísimo. Ahora bien, entendiendo que estos modelos de lenguaje no razonan, y siendo difícil hacer predicciones sobre el futuro, no parece que vaya a haber una mejora significativa. Se dice que están detrás de la inteligencia general. Y si bien parece muy poco probable llegar a algo parecido a toda la complejidad de la inteligencia humana con la mera predicción de texto, la primera pregunta que yo me haría es para qué la querríamos, dado lo visto hasta ahora. ¿Cuál sería la ganancia? ¿Qué problema le resuelve a la humanidad? Y mi respuesta sería que no la queremos. No queremos una máquina que piense por nosotros.

– En principio es muy preocupante. Se relaciona más con la capacidad de cómputo que con el hecho de que sea IA. A veces la usan para ver si quien se presenta de una manera en una red social es la misma persona que se presenta diferente en otra, pero es algo más relacionado al cruzamiento de datos. Si eso se usa para obtener determinados scores de riesgo, no lo sabemos, pero obviamente son cosas muy preocupantes. Lo primero que tenemos que demandar como ciudadanos es que nuestros Estados no entreguen nuestros datos a estas empresas. Sabemos que Palantir está en la Argentina e inició conversaciones con el gobierno. ¿Se van a poner los datos de todos los argentinos y argentinas en ese sistema? ¿Con qué objetivos? ¿Bajo qué jurisdicción? Efectivamente, eso preocupa muchísimo, al igual que la capacidad de las grandes empresas de tecnología de condicionar a los estados nacionales. Ahí hay una tarea pendiente de la agenda de cooperación internacional.



La batalla por la imaginación tecnológica

¿Quién gana cuando los glaciares se derriten?

Fernando Peirone: La narrativa social en tiempos poslogocéntricos



La Matrix de la inteligencia artificial: quién controla las máquinas, la verdad y lo imaginable

La crisis de legitimidad de la representación en la Argentina

Argentina 2027: ¿Y si las elecciones ya no se definieran solamente en las urnas?

Clarín, el monopolio en su laberinto

También te podría gustar...

Deja un comentario