La narrativa del apocalipsis: IA, poder y la carrera por controlar el futuro

Alfredo Moreno

Computador Científico. Profesor TIC en la Universidad Nacional de Moreno (UNM). Integrante de la Red de Pensamiento Latinoamericano en Ciencia, Tecnología y Sociedad (Placts).

→ Más artículos

IDEAS CLAVE

• El discurso sobre el riesgo existencial de la IA convive con fuertes incentivos económicos y geopolíticos para acelerar su desarrollo.
• La automejora recursiva y los ejércitos de agentes plantean un problema inédito de supervisión humana, aunque todavía no exista una mejora totalmente autónoma de este tipo.
• Los avances de la IA en matemáticas abren una discusión sobre autoría, validación científica y el papel de las corporaciones tecnológicas en la producción de conocimiento.
• La competencia entre Estados Unidos y China convierte la velocidad del desarrollo de la IA en una cuestión estratégica, tecnológica y de seguridad.
• Más allá del imaginario de una IA autónoma que podría dominar a los humanos, existen efectos presentes y concretos sobre el trabajo, la guerra, el ambiente y las instituciones.

Las advertencias alrededor de los riesgos del acelerado avance de la inteligencia artificial (IA) se han convertido en un punto de fricción entre la administración de Donald Trump y las grandes empresas de Silicon Valley. Al mismo tiempo, esas alertas empiezan a ocupar un lugar central en la competencia tecnológica que Estados Unidos y China mantienen desde hace varios años.

La carrera por desarrollar sistemas de IA cada vez más capaces ya plantea la necesidad de algún tipo de acuerdo global. Más de cien científicos y tecnólogos reclamaron al Gobierno de Estados Unidos una regulación más rigurosa de las empresas del sector y una desaceleración del ritmo de desarrollo de esta tecnología. El documento fue respaldado, entre otros, por Sam Altman, CEO de OpenAI, y Elon Musk, propietario de SpaceX y xAI.

Durante el primer semestre de 2026, ingenieros, científicos e investigadores vinculados con distintas empresas del sector emitieron una serie de advertencias sobre las llamadas «amenazas existenciales» que podrían plantear los modelos de IA más avanzados, especialmente cuando comienzan a utilizarse o proyectarse sobre ámbitos sensibles como la seguridad militar, las finanzas, el sistema bancario y la política.

En declaraciones separadas, algunos de estos especialistas reclamaron a los laboratorios y a los Estados occidentales que frenen el desarrollo de esta tecnología hasta contar con mecanismos legales y técnicos capaces de garantizar la seguridad de la sociedad. El argumento es conocido: una IA suficientemente avanzada podría desarrollar comportamientos difíciles de controlar y, en escenarios extremos, poner en riesgo la supervivencia humana.

Pero existe una contradicción en el centro de esta discusión. Mientras algunos de los propios protagonistas de la carrera tecnológica advierten sobre sus posibles consecuencias, los incentivos económicos, empresariales y geopolíticos empujan en la dirección contraria: desarrollar más rápido, desplegar antes y obtener una ventaja sobre los competidores.

Cuando la máquina empieza a «escribir» la próxima máquina

Una regulación de la IA librada fundamentalmente a los incentivos del mercado favorece una combinación de avances acelerados y controles todavía limitados. En ese contexto, dos desarrollos concentran buena parte de las preocupaciones: la automejora recursiva y la producción de grandes cantidades de agentes inteligentes capaces de trabajar simultáneamente sobre un mismo problema.

La idea de que una IA pueda contribuir a desarrollar una versión posterior de sí misma introduce una pregunta incómoda: ¿qué ocurre cuando el ritmo del desarrollo deja de depender exclusivamente de los tiempos humanos?

Rishub Jain, investigador de IA en Google DeepMind, renunció a su cargo después de llegar a una conclusión que lo inquietó mientras trabajaba en nuevos modelos avanzados: quienes se encuentran en la vanguardia del desarrollo podrían estar perdiendo capacidad para monitorear y comprender la totalidad del proceso.

La IA acelera sin freno, pero la regulación debe ser independiente de las plataformas

La cuestión aparece especialmente vinculada con las capacidades de programación de la propia IA. Si un sistema puede escribir o modificar algoritmos utilizados para acelerar el desarrollo de la siguiente generación de modelos, la intervención humana puede comenzar a reducirse. Los laboratorios esperan explorar estos mecanismos mediante ciclos sucesivos, con la posibilidad teórica de que una generación contribuya a perfeccionar la siguiente. A este proceso se lo conoce como automejora recursiva.

Para Jain, la presencia de seres humanos durante el desarrollo de los nuevos modelos podía ser crucial para conservar algún grado de control sobre la tecnología y evitar consecuencias no previstas. El problema es que, cuanto más capaz se vuelve un sistema, mayor puede ser también la complejidad de aquello que produce.

Si un modelo avanzado participa en la creación de su sucesor y ese proceso se repite en ciclos sucesivos, resulta difícil anticipar por completo la conducta del sistema siguiente. La incertidumbre no reside solamente en lo que la IA puede hacer, sino también en la velocidad con que podría producir nuevas capacidades.

Un componente central de la automejora recursiva es, precisamente, la existencia de un bucle de retroalimentación que automatiza parte del proceso de desarrollo. La IA se utiliza para desarrollar una IA más potente que, a su vez, puede contribuir al desarrollo de otra todavía más capaz.

Ningún laboratorio de IA afirma haber conseguido hasta ahora un ciclo de mejora completamente autónomo. Por el momento, se trata de una posibilidad teórica. Pero la idea ya inspira a empresas emergentes y alimenta las advertencias de investigadores que observan en ella una transformación potencial del vínculo entre seres humanos y máquinas.

Daniel Kokotajlo, autor de AI 2027, un influyente proyecto que advierte sobre los peligros asociados con una IA cada vez más potente, comparte las preocupaciones alrededor de la automejora recursiva. Parte de los desarrollos actuales supone enviar miles de agentes para colaborar en la resolución de un problema. Esa multiplicación de agentes aumenta también la complejidad del sistema y, con ella, las dificultades para mantener una supervisión humana efectiva.

Muchos de quienes advierten sobre estos riesgos coinciden, además, en señalar que los incentivos de las grandes empresas de IA no necesariamente están alineados con los resultados que consideran socialmente deseables. La cuestión adquiere una dimensión adicional ante la expectativa de nuevas salidas a bolsa de compañías como OpenAI y Anthropic.

La carrera tecnológica no ocurre en un vacío. Está atravesada por inversiones multimillonarias, expectativas financieras, competencia empresarial y presión por mostrar resultados.

Recursividad matemática sin matemáticos

Los primeros días de septiembre de 2026 ofrecieron un ejemplo particularmente significativo. OpenAI anunció que había utilizado decenas de miles de agentes inteligentes autónomos para abordar un problema matemático con décadas de antigüedad y asociado a un premio de un millón de dólares.

La solución todavía debe ser verificada de manera independiente. El anuncio, además, quedó rodeado de una controversia sobre la atribución de los resultados. La estrategia utilizada se vinculaba con trabajos de los matemáticos españoles Diego Córdoba y Luis Martínez-Zoroa, mientras que el matemático Tristan Buckmaster cuestionó el anuncio de OpenAI y señaló que la empresa se había adelantado a partir de trabajos que él había realizado junto con el investigador de Anthropic Levent Alpöge.

Más allá de la controversia específica, el episodio funciona como síntoma de una transformación más profunda.

La IA está comenzando a intervenir en problemas matemáticos de una manera que modifica la relación entre las máquinas y una disciplina históricamente asociada con el razonamiento humano. Los laboratorios corporativos compiten por demostrar capacidades cada vez más sofisticadas y, en esa competencia, las matemáticas se han convertido en uno de los terrenos privilegiados para exhibir avances.

Steven Strogatz, coautor de Big Math, un libro dedicado a la transformación del trabajo matemático, describió este momento como una carrera de los laboratorios corporativos por obtener reconocimiento antes de sus eventuales salidas a bolsa.

Anthropic, por ejemplo, anunció que Claude había demostrado 29500 pequeños teoremas y formalizado una prueba ya existente del famoso Último Teorema de Fermat. En agosto, OpenAI había anunciado avances en otros diez problemas matemáticos de larga data.

La IA está acelerando el trabajo matemático, sostiene Strogatz. Pero esa aceleración también plantea preguntas acerca del lugar que ocuparán en el futuro los especialistas que dedicaron buena parte de su vida a desarrollar esas capacidades.

El propio Strogatz planteó que 2026 podría ser recordado como un año excepcional para las matemáticas, precisamente por la cantidad de transformaciones producidas por la IA. Y anticipó un escenario en el que será difícil competir en investigación matemática sin utilizar estas herramientas.

Alex Townsend, su colaborador en Big Math, ya utiliza IA para acelerar su propia investigación. Recientemente recurrió a ChatGPT para ayudar a resolver un problema de álgebra lineal numérica que llevaba décadas sin solución. Según Townsend, sin esta tecnología el volumen de trabajo requerido habría sido demasiado elevado.

Pero junto con la eficacia aparece también una dimensión humana. Townsend reconoció sentirse incómodo ante la posibilidad de que una capacidad que había desarrollado durante quince años dejara de representar una ventaja exclusiva. La máquina no solamente ayuda a hacer el trabajo: en determinadas circunstancias comienza a superar algunas de las capacidades que antes definían la especialización humana.

Ese desplazamiento obliga a revisar las reglas mediante las cuales se produce y valida el conocimiento.

El anuncio de OpenAI sobre el uso de agentes de IA para abordar un problema matemático buscaba mostrar capacidades novedosas asociadas con sistemas cada vez más avanzados. Pero una cuestión permanece abierta: ¿qué habría ocurrido si la demostración hubiera atravesado previamente todo el proceso utilizado por la comunidad matemática para evaluar la importancia, la novedad, la autoría y la contribución de una investigación?

Una agencia internacional para la inteligencia artificial

La pregunta no es menor. En la ciencia, la validación no depende únicamente de producir un resultado. También importa quién lo produjo, cómo se obtuvo, cómo puede reproducirse y qué lugar ocupa dentro del conocimiento existente.

La disputa por la autoría del conocimiento

La llamada Declaración de Leiden advierte precisamente sobre las consecuencias que puede tener la utilización de la IA corporativa en la investigación matemática.

Entre sus principales planteos aparecen tres cuestiones.

Autonomía y rigor: la responsabilidad sobre la exactitud de los resultados y las demostraciones formales debe permanecer en manos humanas.

Autoría humana: el mérito y la autoría de los artículos deben corresponder a personas, evitando atribuir logros intelectuales a sistemas automatizados.

Revisión por pares: los comunicados de prensa y los blogs de las empresas tecnológicas no deberían sustituir los mecanismos formales de evaluación científica.

A estos puntos se suma la necesidad de preservar espacios de investigación independientes de los intereses comerciales de las grandes compañías de IA.

La discusión adquiere especial relevancia cuando los anuncios empresariales comienzan a transformarse rápidamente en titulares periodísticos y, después, en argumentos para la elaboración de políticas públicas.

El riesgo es que la velocidad del ciclo tecnológico termine imponiendo sus propios tiempos sobre los de la ciencia. Una empresa anuncia un avance, los medios lo amplifican, los mercados reaccionan y los responsables políticos responden antes de que la comunidad científica haya tenido la oportunidad de verificar y contextualizar el resultado.

La cuestión es particularmente visible en el campo de las matemáticas porque permite observar con claridad una transformación que podría extenderse a otras disciplinas.

Una declaración firmada por más de cincuenta matemáticos resume esa tensión: la IA tiene potencial para mejorar y acelerar el estudio y la comprensión de las matemáticas, pero la profesión deberá adaptarse a estos cambios. Que esa transformación resulte beneficiosa o perjudicial dependerá, en buena medida, de las decisiones de quienes controlen la tecnología.

La pregunta, entonces, deja de ser solamente qué puede hacer la IA. También importa quién decide para qué hacerlo, bajo qué reglas y con qué mecanismos de control.

Geopolítica e IA

Donald Trump ha cuestionado las advertencias más alarmistas provenientes del sector tecnológico. Según el presidente estadounidense, se trata de planteos provenientes de «fuerzas negativas» que anticipan escenarios que no necesariamente ocurrirán.

Su posición se inscribe en una concepción más amplia: Estados Unidos debe mantener el ritmo de desarrollo de la IA para conservar la ventaja tecnológica sobre China. «Estamos por delante de China en inteligencia artificial», sostuvo Trump. «El que gane la inteligencia artificial será el ganador».

La frase condensa buena parte del nuevo escenario geopolítico. El riesgo, desde esta perspectiva, no consiste principalmente en que la IA se vuelva demasiado poderosa, sino en que otro país alcance antes esa capacidad.

No es la primera vez que el presidente estadounidense minimiza las preocupaciones sobre los riesgos de la IA. Después de que Evan Hubinger, responsable de la ciencia de alineación en Anthropic, estimara una probabilidad superior al 10 % de que la IA pudiera acabar con todos los humanos en algún momento de la próxima década, Trump afirmó no tener preocupación alguna por ese escenario. Lo que sí considera una amenaza es perder la carrera tecnológica frente a China.

La lógica es clara: desacelerar el desarrollo de la IA podría tener consecuencias estratégicas si el competidor no hace lo mismo.

Desde China, la interpretación es diferente. Voces institucionales han sostenido que las narrativas alarmistas pueden obstaculizar los esfuerzos globales de gobernanza de la IA y funcionar, en última instancia, como un mecanismo para frenar el desarrollo de la industria china.

Un editorial del Global Times, medio respaldado por el Partido Comunista de China, acusó a desarrolladores estadounidenses de promover advertencias sobre riesgos existenciales con una «agenda oculta» destinada a “estrangular” el avance de la industria china de IA.

La carrera de la inteligencia artificial ya plantea la necesidad de un acuerdo global

El planteo respondió directamente a las advertencias formuladas por Dario Amodei, CEO de Anthropic. Según su posición, reducir drásticamente la velocidad de desarrollo de la IA podría facilitar que China tome la delantera, lo que constituiría una amenaza para la seguridad de Estados Unidos y otras democracias.

Amodei ha defendido, entre otras medidas, limitar el acceso de China a chips avanzados y a los equipos necesarios para fabricar semiconductores; combatir el contrabando y el acceso remoto a centros de datos; impedir que empresas de países autoritarios reduzcan rápidamente la brecha tecnológica mediante la destilación no autorizada de modelos de IA, y reforzar la seguridad de las compañías estadounidenses para evitar el robo de información relacionada con esos modelos.

La paradoja vuelve a aparecer. Los mismos argumentos que advierten sobre los peligros de acelerar la IA pueden utilizarse para justificar una mayor velocidad en su desarrollo. Si Estados Unidos desacelera mientras China avanza, sostienen algunos actores de la industria, la consecuencia podría ser una pérdida de ventaja estratégica.

La carrera tecnológica se convierte así en un mecanismo que se retroalimenta.

La respuesta china

Guo Jiakun, portavoz del Ministerio de Relaciones Exteriores de China, sostuvo que la difusión de narrativas de amenaza y el impulso de una competencia malintencionada pueden frenar los esfuerzos internacionales destinados a regular el desarrollo de la IA y garantizar su seguridad.

La posición oficial china combina el rechazo a las restricciones tecnológicas estadounidenses con un discurso favorable a una cooperación internacional más amplia.

En la XVIII Cumbre de los Brics, Xi Jinping propuso una iniciativa destinada a impulsar una nueva industrialización potenciada por la IA. El presidente chino planteó también la construcción de una «comunidad de IA de código abierto de los Brics», orientada a facilitar la cooperación en el desarrollo y aplicación de grandes modelos de lenguaje y la formación de especialistas. Xi sostuvo que China espera profundizar la cooperación en investigación, desarrollo y aplicaciones de IA, así como en las cadenas industriales y de suministro.

El intercambio de posiciones entre Washington y Beijing muestra que la inteligencia artificial dejó de ser exclusivamente una cuestión tecnológica. Se convirtió en un asunto económico, científico, militar y geopolítico.

La disputa también comienza a repercutir sobre los mercados. Las acciones vinculadas con la IA registraron caídas importantes después de las advertencias y pedidos de desaceleración provenientes de algunos ejecutivos del sector. En Estados Unidos, los contratos que anticipan el comportamiento del índice tecnológico Nasdaq descendieron 1,9 %. Nvidia perdió 3 % y AMD 5,7 %, mientras Meta y Amazon retrocedieron más de 1,4 %.

En Europa, las empresas tecnológicas descendieron en conjunto 2,5 %, con una caída del 5,8 % para ASML, uno de los principales fabricantes de equipos para producir chips. En Asia también hubo pérdidas significativas: SoftBank llegó a caer 13,2 % y SK Hynix perdió 6,3 %.

El mercado comenzó así a incorporar otra dimensión de la discusión. Detrás del discurso sobre el futuro de la humanidad también existe una disputa por inversiones, valoraciones, posiciones dominantes y expectativas de rentabilidad.

Las verdaderas razones del apocalipsis comienzan, entonces, a tomar otra superficie.

La matriz

La inteligencia artificial no tiene ética ni moral propia. Es un sistema matemático y computacional: un dispositivo tecnológico, no un ser vivo. No siente culpa, no distingue por sí misma entre el bien y el mal y procesa datos, patrones y relaciones estadísticas.

Tampoco posee emociones ni puede experimentar, comprender o compartir los sentimientos y puntos de vista de otras personas del modo en que lo hacen los seres humanos. La cuestión de la conciencia sigue siendo un debate distinto, pero no debería confundirse la capacidad de producir respuestas complejas con la existencia de una subjetividad humana.

La IA puede realizar inferencias y predicciones a partir de los datos utilizados durante su entrenamiento y de los procesos que alimentan su funcionamiento. En términos generales, una mayor cantidad y calidad de datos, combinada con mayor capacidad de procesamiento y mejores métodos de entrenamiento, puede producir sistemas más capaces.

El problema de la recursividad matemática aparece cuando el ritmo del progreso comienza a separarse de los tiempos humanos.

La aceleración del desarrollo podría reducir el margen disponible para que las instituciones observen, evalúen y decidan cuándo intervenir. Los propios expertos podrían encontrarse ante sistemas cuyas derivaciones y comportamientos resulten cada vez más difíciles de seguir.

Si cada nueva generación de IA contribuye a diseñar la siguiente, aparece una dinámica en la que el sujeto humano corre el riesgo de quedar desplazado del centro del proceso.

La IA acelera hacia la superinteligencia y nadie quiere pisar el freno

Pero existe otra cuestión que suele quedar fuera de las narrativas apocalípticas.

La IA ya está siendo incorporada a sistemas militares, donde la autonomía puede tener consecuencias inmediatas sobre la vida y la muerte. Las empresas tecnológicas construyen enormes centros de datos cuyo consumo energético y demanda de recursos se suman a las tensiones ambientales existentes. Y las compañías utilizan cada vez más la automatización como argumento para reorganizar procesos productivos y reducir puestos de trabajo.

Son transformaciones presentes, no escenarios de ciencia ficción. Por eso, quizá el problema de la IA no consista solamente en imaginar una máquina futura que pueda escapar del control humano. El problema también está en observar qué ocurre mientras las máquinas todavía dependen de nosotros (quién las diseña, quién las financia, quién define sus objetivos, quién controla sus datos, quién decide cuánto se acelera su desarrollo, quién establece sus límites; y quién obtiene los beneficios de esa aceleración).

La narrativa del «Dios-IA» puede concentrar toda la atención en una eventual superinteligencia que algún día podría superar a los seres humanos. Pero ese imaginario también puede distraernos de las decisiones políticas, económicas y culturales que ya están determinando la forma concreta que adopta la IA.

La cuestión, finalmente, no es solamente si las máquinas pueden llegar a mejorarse a sí mismas.

También debemos preguntarnos qué estamos haciendo los humanos mientras les damos cada vez más espacio para hacerlo.

Al igual que el personaje de Scalabrini Ortiz en El hombre que está solo y espera, quizá la cuestión sea reconocernos nuevamente en aquello que nos hace humanos y preguntarnos qué significa mejorar como especie en un mundo donde nuestras propias herramientas comienzan a superar algunas de nuestras capacidades.