La Matrix de la inteligencia artificial: quién controla las máquinas, la verdad y lo imaginable
En dos notas complementarias publicadas por la agencia Pressenza, Alejandro Mora Donoso propone desplazar el debate sobre la inteligencia artificial de la oposición entre humanos y máquinas hacia una pregunta política más profunda: quién controla la tecnología, qué formas de vida promueve y hasta qué punto puede organizar aquello que una sociedad considera verdadero, posible e imaginable.
En una de las escenas más memorables de The Matrix Reloaded, Neo conversa con el consejero Hamann en las profundidades de Sion, la última ciudad libre de los seres humanos. Mientras observan las enormes máquinas que mantienen funcionando la ciudad, Hamann plantea una pregunta desconcertante: ¿qué diferencia existe realmente entre las máquinas que sirven a los humanos y aquellas contra las que luchan? La paradoja es evidente. El agua, el aire y la energía que sostienen la vida en Sion dependen de sistemas tecnológicos. La resistencia humana, aparentemente enfrentada al mundo de las máquinas, no podría sobrevivir sin ellas.
Alejandro Mora Donoso parte de esa escena para abordar una discusión que la expansión de la inteligencia artificial ha colocado en el centro de las preocupaciones contemporáneas. El problema, sostiene, no consiste simplemente en defender al ser humano frente al avance de las máquinas. La pregunta es bastante más incómoda: ¿qué significa ser humano en un mundo cuya existencia está profundamente mediada por dispositivos técnicos?
La preocupación por los límites de la inteligencia artificial resulta legítima. Su desarrollo ocurre en una época marcada por la concentración del poder tecnológico, la vigilancia masiva, la extracción permanente de datos y la transformación de innumerables dimensiones de la experiencia humana en información susceptible de ser procesada.
Pero reducir el problema a una confrontación entre humanidad y tecnología puede ocultar algo fundamental: la historia humana siempre estuvo entrelazada con la técnica. La escritura, los libros, los archivos, la imprenta, los motores, las computadoras y las redes digitales no llegaron a una humanidad previamente constituida: también contribuyeron a moldearla.
La técnica, desde esta perspectiva, no es solamente una amenaza externa. Forma parte de las condiciones históricas mediante las cuales los seres humanos producen su mundo y se producen a sí mismos.
De las máquinas que utilizamos a las máquinas que organizan el mundo
La IA introduce un cambio de escala: los algoritmos ya no se limitan a ejecutar tareas. Seleccionan información, jerarquizan respuestas y anticipan deseos. Por eso, para Mora Donoso, el debate tecnológico termina inevitablemente convertido en una discusión sobre poder.
Reconocer la dimensión constitutiva de la técnica no implica aceptar pasivamente cualquier innovación ni considerar el desarrollo tecnológico como un destino inevitable. Obliga, por el contrario, a formular preguntas más exigentes. ¿Quién controla estas herramientas? ¿Qué formas de vida favorecen? ¿Qué concepciones de libertad, comunidad y dignidad fortalecen o debilitan?
La inteligencia artificial plantea además un problema que excede largamente la automatización del trabajo. Su poder reside también en su capacidad para intervenir sobre el horizonte de lo pensable.
Cuando los algoritmos seleccionan la información que recibimos, anticipan nuestros deseos, jerarquizan respuestas y ordenan crecientemente el espacio público, dejan de comportarse como simples instrumentos. Se convierten en mediadores de aquello que reconocemos como realidad.
La discusión ya no pasa solamente por establecer si una información es verdadera o falsa. Pasa por preguntarse quién dispone la capacidad de determinar qué aparece ente nosotros como verdadero, relevante y siquiera imaginable.
La verdad, recuerda Mora Donoso, nunca se presenta desnuda. Siempre está mediada por lenguajes, instituciones, tecnologías y relaciones de poder. Cada sociedad construye mecanismos para establecer qué considera conocimiento legítimo y qué queda relegado al error, al silencio o a la invisibilidad.
La inteligencia artificial no inventó ese problema, pero puede llevarlo a una escala inédita. Un reducido número de plataformas concentra hoy una enorme capacidad para producir, ordenar y distribuir el conocimiento con el que millones de personas interpretan la realidad. Por eso, detrás de la discusión tecnológica aparece inevitablemente la cuestión de la libertad.
Durante mucho tiempo, y particularmente bajo la racionalidad neoliberal, la libertad fue identificada con la posibilidad de elegir entre distintas alternativas. Pero disponer de numerosas opciones no significa necesariamente ser libre. Un consumidor puede escoger entre cientos de productos sin haber decidido nunca la lógica que organiza ese mercado. Un ciudadano puede optar entre diferentes candidaturas sin encontrar una alternativa capaz de cuestionar las estructuras fundamentales del orden existente.
La libertad, entonces, no puede reducirse a seleccionar entre posibilidades previamente diseñadas por otros. Comienza cuando una sociedad es capaz de crear nuevas posibilidades, ampliar el campo de lo imaginable y transformar las condiciones que organizan su existencia.
Desde allí emerge una de las advertencias centrales del planteo de Mora Donoso. Ninguna forma de dominación se sostiene únicamente mediante la fuerza. También necesita producir un régimen de verdad: establecer aquello que una sociedad acepta como evidente, razonable y posible.
En ese sentido, la inteligencia artificial representa un desafío político extraordinario. Puede ampliar las capacidades humanas, pero también consolidar formas de poder capaces de administrar no solamente información sino las propias condiciones desde las cuales pensamos, decidimos y actuamos.
Quien controle las máquinas no controlará únicamente la tecnología. Tendrá una influencia decisiva sobre la circulación del conocimiento y los límites de aquello que podemos imaginar.
Cuando descubrimos que ya pensábamos como máquinas
La segunda parte de la reflexión lleva esta hipótesis un paso más allá. Si la discusión sobre inteligencia artificial suele presentarse como una confrontación entre seres humanos y máquinas, quizás esa imagen esconda un proceso histórico bastante anterior.
La IA no inauguraría entonces una época completamente nueva. Llevaría hasta sus últimas consecuencias el desarrollo de una humanidad progresivamente organizada bajo la lógica de la máquina.
Lo que inquieta de estos sistemas no es solamente que puedan escribir, aprender o resolver problemas complejos. Por primera vez observamos objetivadas fuera de nosotros facultades que durante siglos consideramos constitutivas de nuestra identidad.
Pero esa constatación conduce a otra pregunta: ¿qué ocurrió con esas capacidades humanas para que pudieran transformarse en procedimientos reproducibles, cuantificables y comercializables?
Durante siglos, el desarrollo técnico mecanizó principalmente la fuerza física. La fábrica disciplinó los cuerpos, fragmentó el trabajo y convirtió al trabajador en una pieza reemplazable dentro del proceso productivo. Más tarde, la administración científica, el consumo masivo y la expansión del mercado extendieron esa racionalidad hacia otras dimensiones de la vida.
El tiempo comenzó a medirse según la productividad; la educación, mediante competencias; la política, de acuerdo con criterios de gestión y eficiencia; las relaciones sociales, cada vez más, por su utilidad.
Mucho antes de la aparición de la inteligencia artificial, argumenta Mora Donoso, el capitalismo había comenzado a mecanizar la propia subjetividad. Ya no producía solamente mercancías: también producía individuos capaces de reproducir la racionalidad necesaria para su funcionamiento.
La IA funciona así como un espejo particularmente incómodo. Nos permite descubrir que una parte considerable de aquello que denominábamos inteligencia ya había sido reducida a patrones, cálculos y procedimientos susceptibles de automatización.
La provocación del autor puede resumirse en una frase: la máquina comienza a pensar porque antes aprendimos a pensar como máquina.
Esta perspectiva vuelve insuficientes dos respuestas habituales ante el desarrollo tecnológico. Una pretende recuperar un humanismo clásico y reafirmar la superioridad moral del ser humano. La otra celebra la llegada de inteligencias capaces de superar las limitaciones de nuestra especie.
Aunque parecen posiciones enfrentadas, ambas conservan la misma lógica: conciben la historia como una disputa por la soberanía. En un caso debe dominar el hombre; en el otro, podría hacerlo la máquina. Lo que permanece fuera de discusión es el principio mismo del dominio.
Por eso, el interrogante decisivo deja de ser a quién pertenece la inteligencia y pasa a ser por qué la inteligencia terminó convertida en un recurso económico controlado y administrado por unas pocas corporaciones.
La cuestión, nuevamente, es política antes que tecnológica. Controlar la infraestructura de la inteligencia supone disponer de una capacidad extraordinaria para organizar información, orientar decisiones y condicionar la manera en que una sociedad imagina su futuro.
Salir de la Matrix: recuperar la capacidad de crear lo posible
La inteligencia artificial perfecciona una forma de poder que ya no necesita prohibir para gobernar. Puede anticipar comportamientos, clasificarlos y ofrecer respuestas antes incluso de que hayamos formulado plenamente nuestras preguntas.
La administración algorítmica del deseo aparece así como una modalidad particularmente sofisticada del poder contemporáneo: en lugar de limitar nuestras posibilidades desde afuera, contribuye a organizar el horizonte dentro del cual esas posibilidades aparecen.
Frente a ello, Mora Donoso propone recuperar una concepción diferente de la libertad. No como simple capacidad de elección, sino como potencia creadora.
Una comunidad comienza a ser libre cuando puede producir posibilidades históricas que no estaban contenidas en el orden existente. Y allí aparece, según el autor, una diferencia fundamental respecto de la máquina. Los modelos algorítmicos trabajan sobre regularidades construidas a partir del pasado; la creación política, en cambio, puede interrumpir esas regularidades e inaugurar acontecimientos que ninguna estadística estaba en condiciones de prever. Allí donde la máquina calcula probabilidades, la historia conserva la posibilidad de abrir caminos nuevos.
Desde esta perspectiva, oponer simplemente humanidad e inteligencia artificial conduce a un callejón sin salida. Las máquinas, por sí mismas, nunca fueron el problema central. Lo decisivo son las relaciones sociales, económicas y políticas que determinan cómo se desarrollan, quién las controla y con qué objetivos se utilizan.
Pero tampoco alcanza con refugiarse en un humanismo que idealice una esencia humana abstracta. La misma concepción del ser humano como sujeto soberano sirvió históricamente para legitimar distintas formas de dominio sobre la naturaleza, el trabajo y otros seres humanos.
La pregunta cambia entonces de terreno. Ya no se trata tanto de determinar qué es el ser humano, sino de decidir cómo queremos habitar el mundo que hemos creado.
Tal vez lo específicamente humano no resida exclusivamente en la inteligencia, una facultad que los sistemas artificiales pueden reproducir parcialmente, sino también en nuestra capacidad para construir vínculos que no estén determinados únicamente por la utilidad, el rendimiento y la competencia. La cooperación, el cuidado, la solidaridad y la imaginación política dejan así de ser simples virtudes morales. Se convierten en formas posibles de organizar la vida y producir algo que ningún algoritmo puede garantizar por sí mismo: un sentido compartido.
En Matrix, el verdadero poder del sistema consistía en conseguir que quienes vivían dentro de él percibieran su mundo como el único posible. La inteligencia artificial coloca a las sociedades contemporáneas frente a una paradoja semejante.
El desafío no consiste solamente en decidir hasta dónde permitir que avancen las máquinas. Consiste en preguntarnos si continuaremos profundizando una racionalidad que convierte la inteligencia, los vínculos, los deseos y el conocimiento en recursos cuantificables y comercializables, o si todavía somos capaces de interrumpir esa lógica.
El futuro, concluye la reflexión de Mora Donoso, no dependerá únicamente de nuestra capacidad para construir máquinas cada vez más inteligentes. Dependerá de recuperar la capacidad colectiva de imaginar relaciones sociales que no puedan reducirse al cálculo, la eficiencia o el dominio. Allí se juega algo más importante que el destino de una tecnología: la posibilidad de que la historia continúe siendo un espacio abierto a la creación humana y no termine convertida en el resultado previsible de un algoritmo.
Leer el texto completo de La Matrix y la inteligencia artificial (Parte 1)
Leer el texto completo de El final de La Matrix y la máquina humana (Parte 2)
