La industria cultural en tiempos de la inteligencia artificial

La aparición de la inteligencia artificial (IA) en el mercado de servicios y productos digitales ha generado un impacto significativo en el sector de las industrias culturales.

El cofundador de Obvious, Pierre Fautrel, junto a «Edmond de Belamy» antes de su subasta en Christie’s, Nueva York.

Las capacidades de los productos de la IA avanzaron significativamente en 2012 cuando los algoritmos de aprendizaje profundo alcanzaron habilidades similares a las humanas en el reconocimiento e identificación de imágenes. Desde la personalización de la experiencia cultural hasta la preservación del patrimonio y la mejora de la gestión, la IA ha revolucionado la forma en que se crea, distribuye y consume la cultura. Sin embargo, también plantea desafíos relacionados con la equidad, el empleo, la privacidad y la autenticidad.

En este contexto es muy común interpretar la neutralidad de la IA. Sus herramientas basadas en software, desarrolladas por programadores con fuerte base matemática o cientistas de datos, optimizan los procesos de identificación de imágenes o producción de contenidos. No obstante, la IA se fundamente en los datos que capturan expresiones socio culturales disponibles en plataformas digitales, como música, videos, imágenes, recorridos virtuales o tecno-inmersión de eventos en museos o artísticos y textos de interacciones sociales. A partir de estos datos se realizan procesos de ciencia de datos como la aplicación de algoritmos predictivos que están fuertemente influenciados por la no neutralidad de los datos y son específicos del contexto.

La digitalización de la vida cotidiana tiene actores centrales representados por las grandes corporaciones digitales que concentran globalmente los productos y servicios del mercado. Las Gafam (Google, Amazon, Facebook, Apple y Microsoft) llevan años dominando el sector de las tecnologías de la información. Sin embargo, el alza de las BATX, sus homólogas chinas, podría poner en peligro su hegemonía. Las siglas BATX corresponden a Baidu, Alibaba, Tencent y Xiaomi, que controlan desde hace años el mercado chino y se están expandiendo a escala global. Además de estos gigantes tecnológicos asiáticos, las Gafam tienen competidores estadounidenses en algunos sectores, como el de la música en streaming, liderado por Spotify, Netflix, Airbnb, Tesla y Uber (conocidas por el acrónimo NATU). Sus productos han revolucionado el consumo de películas y series, el alojamiento de viajeros, la industria automovilística y el transporte urbano de viajeros, respectivamente. 

«En los últimos años hemos aprendido a diferenciar varios aspectos del impacto de las tecnologías digitales en la producción y la comunicación cultural, también en el acceso. En la primera década del siglo XXI hubo una cierta euforia por las posibilidades de democratización en la circulación de las voces políticas, de las voces culturales que daban las tecnologías, especialmente las redes sociales, a partir de 2006. Luego empezamos a ver la distorsión de los procesos políticos. por la acción de grandes corporaciones como Facebook, Google, que han intervenido en los resultados electorales, pero que intervienen también de un modo menos reconocido en la orientación de las políticas culturales. Han reducido enormemente lo que pueden hacer los Estados y los movimientos sociales comunitarios gestionando la producción cultural de un país o de la internacional. Y la seleccionan, la esconden, la proclaman, le suben el volumen según el tipo de réditos que produce. Ahí hay un enorme asunto que tiene un aspecto político al que ahora se le está empezando a prestar más atención, sobre todo en Europa y Estados Unidos. En América Latina pareciera que hay poco para decir desde los regímenes gubernamentales; pero especialmente en relación con las próximas elecciones estadounidenses, hay una seria preocupación por la intervención de formas apócrifas de comunicación, los bots. Cuando Bolsonaro ganó, una de las consignas de la gente agrupada en ese gran espacio frente al Palacio de Gobierno de Brasilia era “Viva Facebook” ¿Qué se estaba diciendo? ¿Qué tipo de ciudadanía se está formando o está desapareciendo cuando aparece esta intervención? Hay algo que cuesta mucho pensar en estos términos, pero estamos viviendo la mayor dictadura digital de la historia. O, dicho de otra manera, la dictadura digital de las corporaciones es la mayor dictadura de la historia porque nos involucra a todos globalmente. Está manejada con total opacidad por corporaciones en las que no tenemos ninguna participación y que pueden modificar la orientación económica, política y el sentido de lo que hacemos. Ahí viene lo cultural. Y si no entramos en esos modos de comunicación sumisa, no podemos trabajar, no podemos comunicarnos con los amigos, con la familia, no podemos educarnos, no podemos producir ciencia. En ese sentido es un absolutismo mucho más radical que cualquier otro que haya habido. Los absolutismos, o las dictaduras anteriores, ocurrían en territorios acotados.»[1]Néstor García Canclini, Emergencias culturales. Instituciones, creadores y comunidades en Brasil y en México, Gedisa Editorial.     

Cultura democrática pautada por la IA

En el informe elaborado por Contextual, iniciativa del Instituto de Desarrollo Digital de América Latina y el Caribe (Iddlac) revela cómo las redes sociales amplifican el discurso de Javier MileiLos especialistas tomaron como eje de análisis las declaraciones de Milei en el primer debate presidencial,en el que negó la cifra de treinta mil desaparecidos y relativizó los crímenes de la últimadictadura militar. Midieron las repercusiones en canales y perfiles de redes sociales vinculados al candidato.

Break Point, el canal de streaming vinculado al armado político de Milei, transmitió en vivo durante cinco horas y sumó casi 340.000 visualizaciones hasta el 3 de octubre. Tipito enojado, otro canal de YouTube que transmitió en vivo, alcanzó 140.000 reproducciones. Los comentarios de los seguidores y una marea de posteos en Twitter festejaron el negacionismo y los crímenes de Estado.

Estas conversaciones transcurrieron sin recibir ningún tipo de sanción por parte de las plataformas digitales que tienen reglas claras al respecto. Tanto Youtube (Google) como Twitter (rebautizada X por su dueño Elon Musk), en sus políticas contra la incitación o la violencia, mencionan que se sancionarán «ideologías que inciten al odio» o aquellas que nieguen «la ocurrencia de sucesos violentos bien documentados». Mostrando una vez más, flaquezas enormes en la supuesta estructura que debería moderar, al menos, los mensajes de odio, que incluyen la negación y la relativización de violaciones a los derechos humanos mediante acciones violentas.

Este tipo de comunicación social, banalizó los hechos del terrorismo de Estado vividos por los argentinos. La frivolización también fue un modo táctico y consciente de provocación, para generar atención mediática e interacciones con los usuarios más radicalizados. Así, Mariano Pérez (@marianoperez912), el conductor de Break Point, ironizó en X sobre un cruce con Victoria Villarruel y expuso la banalización señalada. Después de mencionar a quienes habían participado en su transmisión, incluidos varios candidatos de LLA, hizo un agradecimiento: «A nuestra futura vice @VickyVillarruel por ANIQUILARME en vivo».  En el chat de esas transmisiones en YouTube pueden leerse aclamaciones de alegría sobre las expresiones de Milei y hasta se jactan de que los desaparecidos «no fueron suficientes».

La cuenta @AbbyFerrari, en X, aludió a la transmisión de streaming de Tipito enojado, haciendo una captura de pantalla cuando el youtuber se ríe de las declaraciones del candidato a presidente. «Tipito cuando Milei dijo #NoFueron30000 somos todos», posteó en X, adhiriendo a esa risa y utilizando un hashtag que se instaló durante el debate. «#NoFueron30000 ni inocentes ni suficientes», posteó @Nico_26M_T en X, en un texto que la red social de Elon Musk no penalizó ni sancionó. «En Alemania, como en casi todo el resto de Europa, los negros de África están cometiendo todo tipo de atrocidades», señaló en ese mismo escrito.

Fernando Cerimedo, de 42 años, es el consultor digital clave en el éxito de La Libertad Avanza en el ámbito de redes sociales.Hasta 2021 trabajó con Patricia Bullrich, antes lo hizo con Mauricio Macri, y estuvo muy ligado a la campaña de Jair Bolsonaro en Brasil, responsable de las conversaciones en redes sociales de Milei. Se destaca por su capacidad para monitorear la conversación en redes sociales y ha sido un factor influyente en la creación de contenido digital. Administra una estructura de cincuenta mil cuentas creadas específicamente para monitorear e influir en la conversación en plataformas digitales, que son el vehículo para generar autoridad, viralidad y legitimación de los contenidos armados. Cerimedo también es uno de los socios de La Derecha Diario, un grupo afín al movimiento mileísta.

Tomás Jurado y Mariano Pérez son dos youtubers que se han sumado a la campaña digital de manera no formal. Jurado, creador del canal de YouTube El Peluca Milei, ha logrado un gran éxito al recopilar las apariciones del economista en televisión y presentarlas sin ediciones significativas. Su canal ha acumulado más de novecientos mil suscriptores en tan solo tres años. Por su parte, Pérez se enfoca en producir contenido «periodístico» relacionado con la política y ha superado los dos millones de reproducciones en algunos de sus videos.

Han sabido utilizar las redes sociales, en particular TikTok y X, para alcanzar a un público amplio y diverso. El enfoque en temas como la seguridad, la economía y la capacidad de monitorear la conversación en línea ha contribuido a su éxito. Que digan lo que quieran, pero que hablen de nosotros.

Las cuentas oficiales del nuevo Ministerio de Capital Humano en Instagram y Facebook con perfiles de cuatrocientos mil y 3.800.000 de seguidores, respectivamente, fueron creadas a partir de asumir Milei como presidente de los argentinos. Entre sus seguidores figuran dirigentes y exfuncionarios peronistas, como el expresidente Alberto Fernández y la ex primera dama Fabiola Yáñez, el gobernador bonaerense Axel Kicillof y el exministro de Economía y candidato presidencial Sergio Massa. Desde Meta, la empresa propietaria de Facebook e Instagram, argumentan que puede tratarse de un traslado y fusión. «Es decir,si uno seguía la cuenta anterior también estará siguiendo esta cuenta», detallaron. Así, ahora figurarían como seguidores de @mincapitalhumano quienes antes seguían, por ejemplo, al Ministerio de Cultura de la gestión de Fernández.

Industrias culturales, la producción basada en IA

Desde la personalización de la experiencia cultural hasta la recomendación para la mejora del consumo cultural, la IA ha transformado la forma en que se crea, distribuye y consume la cultura. Sin embargo, también plantea desafíos relacionados con la equidad, el empleo, la privacidad, la autenticidad y la producción cultural original. Es fundamental abordar estas temáticas de manera ética y responsable para garantizar que la IA sea una herramienta al servicio de la creatividad humana y la diversidad cultural.

Algunos aspectos que debemos considerar a la hora de analizar la implementación de la inteligencia artificial en la industria cultural:

  • Sesgos algorítmicos: Los algoritmos de IA están condicionados por los datos utilizados para su entrenamiento y a menudo contienen sesgos inherentes, como discriminación de género, racial o económico, o sobre preferencias y gustos que no tienen por qué ser mayoritarios en los consumidores culturales.
  • Cambios en las competencias de los profesionales del sector cultural. La automatización impulsada por la IA supone un cambio en las competencias del sector cultural. Para el uso efectivo de esta nueva tecnología es necesario tanto el conocimiento del sector como adquirir nuevas habilidades en el uso de los llamados prompts o comandos para hacer trabajar el algoritmo. Es decir, instrucciones que hay que suministrar a los algoritmos para obtener el resultado deseado. Algunas tareas que antes eran realizadas por profesionales, como la gestión de eventos o la cura de contenidos, pueden ser automatizadas. En este contexto, sigue siendo necesaria la visión estratégica y el conocimiento profundo del sector para su supervisión. El «experto» garantiza la implementación positiva de la IA.
  • Privacidad y protección de datos: El uso de IA implica la recopilación y análisis de grandes cantidades de datos de las personas. La protección de la privacidad y los datos de los usuarios es un desafío clave que debe estar regulado y controlado en el mundo digital, en el que técnicamente es posible registrar casi cualquier actividad que realiza la persona que interactúa en este contexto.
  • Pérdida de autenticidad. Existe el riesgo de que el uso excesivo de la IA en la creación y distribución cultural pueda llevar a una homogeneización de la generación de obras culturales, reduciendo la originalidad y variedad de contenidos. Si las obras de arte o las producciones culturales se generan en su totalidad por algoritmos, podría disminuir la diversidad creativa y la singularidad de las expresiones culturales.
El mercado de las obras de arte

Un re­tra­to he­cho por un al­go­rit­mo rom­pió nue­vos lí­mi­tes al ser ven­di­do por u$s 432.500 y con­ver­tir­se en la pri­me­ra obra de arte de IA co­mer­cia­li­za­da en una im­por­tan­te casa de subas­tas, in­for­mó la casa de subastas de arte Ch­ris­tie’s de Estados Unidos.

A pri­me­ra vis­ta,Ed­mond de Be­lamy, el re­tra­to de un ca­ba­lle­ro ves­ti­do de ne­gro y en­mar­ca­do en oro, po­dría ser cual­quier re­tra­to es­tán­dar de los si­glos XVIII o XIX. De cer­ca, la ima­gen es más in­tri­gan­te. La cara es bo­rro­sa y la pin­tu­ra está apa­ren­te­men­te sin ter­mi­nar. En lu­gar de la fir­ma de un ar­tis­ta, en la es­qui­na in­fe­rior de­re­cha lle­va el se­llo de una fórmula matemática.

Se tra­ta de una crea­ción del co­lec­ti­vo fran­cés Ob­vious Art, cuyo ob­je­ti­vo es uti­li­zar la in­te­li­gen­cia ar­ti­fi­cial en el arte. Para ha­cer la pin­tu­ra, el ar­tis­ta Pie­rre Fau­trel reali­zó quince mil re­tra­tos clá­si­cos a tra­vés de un soft­wa­re. Una vez que el algoritmo aprendió las re­glas del re­tra­to, uti­li­zan­do un nue­vo al­go­rit­mo desa­rro­lla­do por el in­ves­ti­ga­dor de Goo­gle Ian Good­fe­llow, ge­ne­ró una se­rie de nue­vas imá­ge­nes por sí mismo, dijo Fau­trel.

El co­lec­ti­vo fran­cés se­lec­cio­nó a once, y los lla­mó La fa­mi­lia Be­lamy, uno de los cua­les con­si­guió u$s 432.500 en una subas­ta de Christie’s, en Nue­va York. Lo que vendieron no es la imagen digital, sino la tela, una tela física, con la firma del artista, condensada en una fórmula matemática.

Para crear la obra Edmond de Belamy, lo que hicieron fue reunir bases de datos de pinturas de los siglos XVII, XVIII, XIX que sirvieron para entrenar el algoritmo. Utilizaron redes generativas antagónicas (GAN), esto es, un sistema compuesto por dos redes neuronales: una primera red que trata la información que recibe y propone una muestra de obras y otra que hace las veces de seleccionador y filtra las obras generadas por la primera. Así, cualquier obra que logre saltar la segunda red será en general una obra de mucha mayor calidad que cuando la IA trabaja con una sola red.

Otras producciones basadas en IA, son las máscaras al estilo africano desarrolladas por Obvious Art. Los artistas alimentaron el algoritmo con miles y miles de modelos de máscaras africanas tradicionales y luego generaron nuevos modelos. Finalmente, eligieron las que más gustaban y encargaron a un artesano ghanés que reprodujera las máscaras en formato físico.

Estas realidades, potencian la idea de que la IA puede ayudar en dar volumen al artista. Otra ventaja de la IA es que permite reducir las barreras de entrada para los nuevos creadores. Tradicionalmente, en el mundo de la música uno necesitaba tener conocimientos de orquestación y composición, entre otros, para crear una sinfonía. En la era de la IA esto se modifica, porque, aunque no tengamos conocimientos específicos sobre esas áreas, si manejamos ciertos parámetros, podemos componer una sinfonía o un tema de jazz en alguna de las plataformas de música automática.

Desde las industrias culturales y creativas, la IA implica un salto de productividad formidable. Un caso son las empresas que desarrollan videojuegos o en las productoras cinematográficas y supongamos que necesitan editar algunas escenas y borrar parte de un efecto en las mismas, o cambiarle el color al automóvil que pasa en segundo plano. Esa no es una tarea tan sencilla, es bastante más compleja de realizar en una escena en movimiento que en una imagen estática. Existen sistemas de IA que permiten seleccionar determinados elementos, para que luego el software los borre o los modifique, no solo en un cuadro puntual sino en toda la escena. Esto obviamente representa un salto en eficiencia y en productividad sin precedentes respecto a los procesos anteriores de edición.

En este marco, estamos asistiendo a la aparición de un sinnúmero de nuevas empresas que desarrollan aplicaciones y sistemas de IA de este tipo, pensados para los sectores creativos. Ello derivará en la creación de nuevos puestos de trabajo calificados. Y, si antes mencionamos a los y las artistas y las industrias culturales, esto es, si pensamos en términos de la cadena de valor, de los eslabones de la creación, la producción y la distribución, tendríamos que referirnos también a la situación del público o audiencia, que ocupan el eslabón del acceso o consumo, al final de la cadena.

Para el público, todas estas técnicas o sistemas de IA empleados por los artistas y las industrias derivarán, necesariamente, en una explosión de la oferta cultural: los libros, películas, pinturas y creaciones de toda clase realizadas, en parte gracias a sistemas de IA, harán incalculablemente mayor la oferta cultural a la que tenemos acceso.

Ahora bien, ¿solo debemos analizar las oportunidades? Para ver un ejemplo: los músicos que manejan algunas herramientas digitales pero que su actividad principal pasa por el desarrollo y ejecución del instrumento musical ¿Tienen realmente la posibilidad de utilizar y desarrollar sistemas de IA adaptados a su profesión? En efecto, para un artista «tradicional», trabajar con sistemas cerrados y listos para el uso puede resultar sencillo, pero si quieren experimentar, deberán personalizar la herramienta y adaptarla a sus necesidades.

Para componer con IA, se necesita tener conocimientos finos sobre cómo obtener y depurar datos de calidad, cómo alimentar y entrenar el dispositivo, cómo utilizar algoritmos, etc. Para la mayoría de los artistas, el aprendizaje profundo parece algo fuera de alcance: no se les puede pedir a todos los pianistas que tengan un doctorado en ciencia de datos. Existe un problema en términos de conocimientos y competencias sobre la IA que afecta a los artistas y la innovación en su producción.

Otro reto se vincula con la falta de datos en el sector, en particular la falta de datos abiertos y reutilizables. Si para entrenar un sistema de IA se necesitan datos masivos, tenemos que «monetizar» el acceso. La mayor parte de los datos hoy están en manos de grandes empresas cuyo negocio es precisamente controlar esos datos y exprimirlos hasta sacarles el último centavo de beneficio. En este contexto en el cual las grandes plataformas tienen pocos incentivos para compartir datos, el sector cultural no posee sus datos ya que esos datos están siendo absorbidos y manejados por terceros. Estamos entonces ante un desierto de información, un desierto de datos, que son precisamente el insumo para el aprendizaje profundo.

Además, cabe resaltar la concentración económica. Los grandes actores tecnológicos como Google, Amazon, Meta, Apple y Microsoft están ocupando no solo un eslabón en la cadena cultural, sino que empiezan a constituirse en la cadena como tal. Por ejemplo, Amazon no es una simple librería digital. Comenzó como una tienda virtual pero luego se expandió de manera arrolladora hacia los extremos de la cadena. Amazon hoy es una editorial —maneja dieciséis sellos editoriales—; es uno de los principales traductores de literatura extranjera en Estados Unidos; administra sistemas de impresión bajo demanda; tiene la principal venta de ebooks del mundo; produce un dispositivo propio como el Kindle. Estas plataformas constituyen ecosistemas cerrados que ya conforman cadenas en sí mismos. Al interior de esos ecosistemas circula la información, los usuarios pueden entrar y salir, comprar y vender, pero el control de los datos le permite a la plataforma acceder a una ventaja decisiva a la hora de luchar contra otros competidores. El peligro es que, cuando estas empresas ocupan toda la cadena, para el resto de los actores del ecosistema ya es muy difícil mantenerse autónomos. Una pequeña editorial que utiliza servicios de Amazon o de Google o de algún otro gigante tecnológico tendrá muy poco margen de acción a la hora de desarrollar sus propias soluciones. Esto deriva en mayor dependencia y resulta muy difícil de revertir.

Ahora bien, ¿cómo impacta esta concentración económica en los contenidos? La explosión del metaverso muestra el control de toda la cadena de valor, desde la creación hasta el acceso o consumo, esta modelo habilita a las grandes plataformas a generar contenidos automáticos gracias a la IA. Contenidos que estarán específicamente pensados y personalizados como usuario final.

Los algoritmos de recomendación llevan ya bastantes años en el mercado, funcionan con IA y permiten a las empresas conocer el perfil y los gustos culturales de los usuarios de una forma muy fina. Puede suceder, que las grandes plataformas generen obras culturales personalizadas, no para una cierta comunidad, sino para un individuo. Algunos movimientos recientes, por ejemplo, la contratación de expertos en la generación de música automática por parte de grandes plataformas de streaming, podrían ofrecer música funcional, que no precisa de una letra ni de un cantante, y que puede adaptarse en función de nuestros estados de ánimo.

Estos nuevos negocios puede ser una gran oportunidad en términos comerciales, pero si lo pensamos desde el punto de vista de la cohesión social, una cultura atomizada y desprovista de símbolos, identidades y sentido podría hacer que todo el andamiaje que nos mantiene juntos se resquebraje. Por cierto, ¿es viable una sociedad en la que no existe una cultura compartida?

La IA genera muchísimos puestos de trabajo calificados, especialistas que vienen de la tecnología computacional y las matemáticas y que desarrollan proyectos en el cruce entre la tecnología y la cultura. Al mismo tiempo la IA puede llevar a la destrucción y a la pérdida de miles de puestos de trabajo llamados tradicionales. Por ejemplo, si las editoriales empiezan a utilizar sistemas de traducción automática para traducir libros o artículos de revistas, y los diarios hacen lo mismo, ¿qué ocurrirá con los traductores? La profesión de traductor tal vez no desaparezca, pero muy probablemente las tarifas actuales estarán bajo tensión, porque si un dispositivo con software puede hacer en diez minutos un trabajo que antes insumía días, estamos frente a un quiebre sumamente profundo. Por otra parte, ¿qué ocurrirá con los diseñadores y diseñadoras, ilustradores e ilustradoras, si la industria se lanza a utilizar imágenes generadas de manera automática, como las referidas anteriormente? Todos los sectores creativos enfrentarán desafíos de esta clase.

Hay otro problema, que remite a los desequilibrios norte-sur: un desafío presente en cualquier ámbito tecnológico es la brecha digital. Es cierto que para utilizar la IA necesitamos computadoras, necesitamos acceso a Internet y otros requisitos técnicos que en muchos países del Sur no abundan. Esta asimetría entre Norte y Sur puede empeorar de manera exponencial si tenemos en cuenta los recursos que invierten en investigación y desarrollo los principales centros industriales.

Encontramos hubs de IA[2]Un hub empresarial es un centro o espacio físico donde se concentran empresas, startups y emprendedores con el objetivo de colaborar, intercambiar conocimientos, generar sinergias y fomentar la … Continue reading de primer orden en EE. UU. (Silicon Valley entre otros), en China (Tianjin entre otros) en Canadá (en particular en Montreal) en Inglaterra (en especial en Londres), en Francia, Alemania, Japón, Corea del Sur. Fuera de estos centros, son pocos los polos que podrán competir en el desarrollo de la IA. En este sentido, las regiones del sur América Latina, África Subsahariana, el mundo árabe y muchas naciones del sudeste asiático se encuentran en una situación de desventaja con baja posibilidades de competencia global.

El riesgo en términos culturales es que los países del sur terminemos importando nuestra propia cultura. Si las máscaras africanas del futuro se diseñan con IA en el Norte y no en África, si la música argentina se empieza a componer con sistemas de aprendizaje profundo que son alimentados con canciones argentinas de décadas pasadas, se podría presentar que la brecha digital se transforme en una brecha creativa. Nos encontraríamos en una situación en la cual ciertas zonas del planeta se volverían más creativas que otras, una situación absolutamente inédita.

Otro desafío se relaciona con la dificultad de determinar quién es el titular de los derechos de autor en las obras creadas con IA. En la actualidad asistimos a discusiones a todo nivel, en muchísimos países. Si la persona utiliza una aplicación de IA para crear una imagen, ¿de quién son los derechos? Alguien podría argumentar que los derechos son del usuario final, que fue quien pensó el comando o prompt para que la computadora generara la imagen. Pero no solo deberíamos pensar en el usuario final, sino también en los programadores y en la empresa que desarrolló el sistema. Y además del usuario final, de los programadores y de la empresa, tendríamos que incluir en la ecuación a los titulares del derecho de autor de los contenidos que se utilizaron para alimentar el algoritmo. Si alimentamos la computadora con obras del siglo XVII, XVIII, XIX, no hay problema, porque son insumos de dominio público. Pero ¿qué pasa si alimentamos el algoritmo con imágenes de pinturas de Picasso? Ahí sí puedo estar en un problema, porque eso es dominio privado. ¿No podrían acaso los herederos de Picasso argumentar que esas obras no se deben utilizar para data mining o para alimentar los procesos de IA, porque esas pinturas forman parte de la creatividad de Pablo Picasso?

La presencia de sesgos culturales en ChatGPT y otras IA generativas puede tener consecuencias preocupantes para la diversidad cultural. La IA puede configurarse como un colonizador digital que impone ciertos valores y principios en la sociedad, como ha ocurrido en nuestros territorios latinoamericanos a manos otras culturas. La IA al ser utilizada a nivel global, puede perpetuar la homogeneización cultural y la discriminación de grupos que no se ajusten a los estándares de la perspectiva occidentalizada que refleja, como la IA ChatGPT. Esto podría llevar a una pérdida de la diversidad cultural y a la disminución de la riqueza del conocimiento y la creatividad humana.

Es fundamental que los desarrolladores de IA programadores de algoritmos y cientistas de datos reconozcan los sesgos implícitos en su programación y se responsabilicen por las consecuencias que pueden tener en la sociedad. Esto implica una mayor transparencia en su desarrollo y un compromiso ético y moral para asegurar que la IA refleje la diversidad cultural y no perpetúe la discriminación y la exclusión. Sumado a que la sociedad se involucre en la toma de decisiones sobre el uso de la IA y que se fomente la educación y el pensamiento crítico sobre las implicaciones de esta tecnología. Este contexto de derechos sociales y culturales solo es posible con una fuerte articulación desde el Estado y sus políticas públicas.

 

 

 

Notas
Notas
1 Néstor García Canclini, Emergencias culturales. Instituciones, creadores y comunidades en Brasil y en México, Gedisa Editorial
2 Un hub empresarial es un centro o espacio físico donde se concentran empresas, startups y emprendedores con el objetivo de colaborar, intercambiar conocimientos, generar sinergias y fomentar la innovación. También es un lugar donde se promueven diferentes estilos y tipos de liderazgo para impulsar el crecimiento y el éxito de los emprendimientos participantes.

Alfredo Moreno

Computador científico, ingeniero TIC en Agentina Satelital (Arsat), profesor TIC en la Universidad Nacional de Moreno, integrante de la Red de Pensamiento Latinoamericano en Ciencia, Tecnología y Sociedad (Red Placts - https://blogs.ead.unlp.edu.ar/catedracps/red-placts/)

También te podría gustar...

Deja un comentario