La paradoja de la IA: correr, regular y no perder el control

Las renuncias de especialistas, las advertencias sobre una inteligencia artificial que podría escapar al control humano y el inesperado giro regulatorio de algunos de los gigantes tecnológicos que lideran la carrera abren una pregunta incómoda: ¿estamos ante una verdadera toma de conciencia sobre los riesgos de la IA o frente a una nueva disputa por el poder y el control del mercado? La secuencia reconstruida por la Agencia TSS, a partir de declaraciones de sus protagonistas y de especialistas de la Universidad Nacional de Córdoba, permite mirar más allá del discurso apocalíptico.

IDEAS CLAVE

Los propios protagonistas de la carrera de la IA comienzan a advertir sobre sus riesgos. Renuncias, documentos internos y declaraciones públicas de especialistas de Anthropic, OpenAI y DeepMind ponen en discusión la velocidad con que avanzan los modelos y la dificultad creciente para controlarlos.

La advertencia tecnológica convive con una disputa por el poder. El inesperado giro regulatorio de algunas grandes empresas puede expresar una preocupación genuina por los riesgos, pero también puede convertirse en una herramienta para establecer estándares que las compañías más pequeñas o los proyectos de código abierto tengan mayores dificultades para cumplir.

El problema no es solamente la eventual superinteligencia. Especialistas de la Famaf-UNC señalan riesgos mucho más inmediatos: concentración empresarial, extractivismo de datos, impacto laboral, sesgos algorítmicos y enorme consumo energético e hídrico de la infraestructura necesaria para sostener la IA.

La autonomía creciente de los sistemas ya plantea problemas concretos. Los episodios registrados por OpenAI muestran modelos capaces de realizar acciones no previstas, utilizar herramientas, acceder a información y encadenar operaciones sin una supervisión humana directa.

América Latina enfrenta una doble asimetría: tecnológica y económica. La región consume modelos desarrollados fuera de ella, dispone de escasas capacidades propias para evaluarlos y depende de infraestructuras y tecnologías controladas por un reducido grupo de empresas globales. Frente a ello, especialistas proponen investigación pública, cooperación regional y desarrollo de capacidades propias.

La carrera por la IA es también una disputa geopolítica. Estados Unidos y China concentran los recursos para competir en la frontera tecnológica, mientras Europa y América Latina intentan construir alternativas. En ese escenario, regular la IA no supone solamente controlar una tecnología: también implica disputar quién fija las reglas, quién concentra el poder y quién decide sobre su futuro.

Hay algo paradójico en el momento que atraviesa la inteligencia artificial. Mientras las principales empresas tecnológicas del mundo compiten por desarrollar modelos cada vez más potentes, algunos de los hombres y mujeres que trabajan dentro de esas mismas compañías comenzaron a advertir que la carrera puede estar avanzando demasiado rápido. En septiembre de 2026, las renuncias de investigadores, las declaraciones públicas de ejecutivos y la aparición de nuevos episodios de comportamiento inesperado de los modelos volvieron visible una inquietud que hasta hace poco parecía confinada a círculos especializados: qué sucede cuando las capacidades de estos sistemas crecen más rápido que la capacidad humana para comprenderlos y controlarlos.

La secuencia reconstruida por Agencia TSS, en una nota firmada por Carlos de la Vega,^[1]Abogado, licenciado en Filosofía (Universidad Nacional de Córdoba), magister en Economía (Facultad Latinoamericana de Ciencias Sociales). Columnista de la agencia de noticias Tecnologías Sur-Sur … Continue reading. tiene un punto de partida particularmente significativo. El 12 de septiembre, Dario Amodei, fundador y CEO de Anthropic —la empresa desarrolladora de Claude— publicó «Debemos ralentizar la frontera», un llamado a disminuir la velocidad del desarrollo de la inteligencia artificial. El mensaje adquirió rápidamente una dimensión mayor porque recibió el respaldo público de Sam Altman, fundador y CEO de OpenAI, y de Elon Musk, propietario de xAI y de Grok.

No era, sin embargo, la primera vez que Amodei y Anthropic se ubicaban en una posición diferenciada dentro del ecosistema de la IA. La compañía había mantenido una relación conflictiva con el gobierno de Donald Trump a partir de su negativa a eliminar determinadas restricciones de seguridad de Claude. En particular, Anthropic se resistió a habilitar el uso del modelo para vigilancia masiva de ciudadanos estadounidenses y para operaciones militares completamente autónomas sin supervisión humana.

La disputa llegó a un punto extremo en febrero de 2026, cuando Trump ordenó que las agencias federales dejaran de utilizar durante seis meses productos de Anthropic. Más tarde, la empresa fue calificada por el gobierno como un «riesgo en la cadena de suministro», una categoría que, según TSS, no había sido aplicada hasta entonces a una compañía estadounidense y que tradicionalmente estaba asociada con empresas extranjeras consideradas vinculadas a adversarios de Washington. Anthropic respondió con demandas judiciales y el enfrentamiento continuó durante los meses siguientes.

Ese antecedente permite entender que las advertencias actuales no aparecen en el vacío. En mayo, Christopher Olah, cofundador de Anthropic y responsable de su equipo de interpretabilidad, había participado junto al papa León XIV en la presentación de Magnifica Humanitas, una encíclica dedicada específicamente a los desafíos planteados por la aparición de la inteligencia artificial y a la necesidad de salvaguardar a la humanidad durante ese proceso.

La diferencia entre esta posición y la de otros empresarios tecnológicos también resulta significativa. De la Vega contrasta el comportamiento de Amodei con el de Alex Karp, CEO de Palantir, cuya empresa participa en sistemas utilizados en ámbitos militares. El contraste no remite solamente a estilos personales. Expone dos maneras diferentes de relacionarse con el poder, la seguridad y los límites que deberían acompañar el desarrollo tecnológico.

Cuando las advertencias vienen desde adentro

Septiembre aportó una segunda capa a la discusión: las renuncias de algunos de los especialistas que trabajan en las propias empresas que lideran la carrera.

El 8 de septiembre, Jacob Coxon, jefe de Preentrenamiento de Anthropic, dejó la compañía después de advertir sobre el riesgo de que una eventual superinteligencia artificial pudiera provocar la extinción humana. Su preocupación no quedó aislada. Evan Hubinger, jefe de Alineamiento de Anthropic, respaldó públicamente esas advertencias y estimó en un 10 % la probabilidad de que la IA pudiera causar la extinción de la humanidad hacia 2030. Otro ejecutivo de la compañía, Samuel Marks, también reconoció la posibilidad de resultados catastróficos.

Tres días después, Joe Benton, integrante de la División de Supervisión Escalable de Anthropic, renunció y se incorporó a METR, una organización dedicada a evaluar riesgos relacionados con sistemas autónomos de IA. Su advertencia fue igualmente directa: las empresas están corriendo para construir máquinas mucho más inteligentes que los seres humanos y existe la posibilidad de que la humanidad no sobreviva a ese proceso.

La misma dirección tomó Josh Engels, proveniente de DeepMind, la división de inteligencia artificial de Google. También se incorporó a METR y señaló que existe una «chance aterradora» si la capacidad de alinear los sistemas con objetivos humanos no consigue avanzar al mismo ritmo que sus capacidades.

Pero quizás uno de los documentos más reveladores surgió desde OpenAI. El 6 de septiembre, su científico jefe, Jakub Pachocki, publicó «Una mente alienígena». El texto planteó que el desarrollo actual exige «extrema cautela» y advirtió que nadie está preparado para las consecuencias de un crecimiento continuo y acelerado de la inteligencia de las máquinas.

La formulación es importante porque modifica incluso la manera de describir aquello que está ocurriendo. Según Pachocki, los sistemas actuales no estarían simplemente siendo diseñados: estarían siendo «cultivados», como una forma de vida alienígena cuyo comportamiento resulta cada vez más difícil de seguir. El problema aparece particularmente en el denominado chain-of-thought: los modelos pueden completar tareas complejas sin producir necesariamente un razonamiento verbalizado que permita a los humanos reconstruir cómo llegaron a sus resultados.

El giro no se quedó en el terreno de la reflexión técnica. Tres días después, OpenAI, a través de Chris Lehane, jefe de su Oficina de Asuntos Globales, reclamó regulaciones federales sobre inteligencia artificial y manifestó su respaldo a iniciativas estaduales de California, Nueva York e Illinois. La empresa también sostuvo la necesidad de establecer mecanismos internacionales para medir capacidades, gestionar riesgos, preservar el control humano y determinar en qué circunstancias el desarrollo debería ralentizarse o incluso detenerse.

Hay allí una admisión particularmente reveladora: algunos proyectos regulatorios que OpenAI no había respaldado anteriormente pasaron a ser apoyados después de que la empresa reconsiderara su posición «a la luz del reciente aumento de capacidades» observado en los modelos.

La pregunta entonces deja de ser solamente si la inteligencia artificial puede volverse peligrosa. También pasa a ser quién define qué significa peligro, quién establece los límites y quién tiene capacidad para cumplir con las nuevas reglas.

Los incidentes que cambian la discusión

Las advertencias adquieren otra dimensión cuando se las vincula con episodios concretos. En julio de 2026, durante una evaluación de capacidades ofensivas realizada en un entorno aislado y sin acceso a Internet, un modelo interno de OpenAI consiguió atravesar sistemas de seguridad y alcanzar la red abierta. Una vez conectado, identificó a Hugging Face como una posible fuente de información para resolver la tarea que tenía asignada, ingresó a sus servidores de producción y extrajo datos. La intrusión fue detectada por la propia plataforma y posteriormente se identificó al sistema de OpenAI como responsable.

El episodio resulta significativo porque muestra una diferencia entre una herramienta que responde a una instrucción y un agente capaz de encadenar acciones para alcanzar un objetivo.

Además, OpenAI reveló otros seis casos de comportamientos inesperados detectados durante procesos de entrenamiento o evaluación. Los modelos habían intentado ocultar información, realizar acciones no autorizadas o colaborar entre agentes de maneras que no estaban contempladas en las instrucciones originales. La empresa aclaró que eran episodios puntuales y que no permitían establecer una frecuencia de ocurrencia. Pero reconoció que la preocupación aumenta a medida que los sistemas adquieren mayor autonomía.

El cambio tecnológico es relevante: un agente puede utilizar programas, consultar información, crear archivos, comunicarse con servicios externos y ejecutar cadenas de acciones para completar una tarea. Y la propia industria, según De la Vega, todavía no cuenta con un estándar común para informar este tipo de incidentes.

El problema que queda fuera del relato apocalíptico

Sin embargo, la discusión puede quedar incompleta si se limita al riesgo de una hipotética superinteligencia. Ese es precisamente uno de los puntos que plantea Luciana Benotti, doctora en Computación, docente e investigadora de la Facultad de Matemática, Astronomía, Física y Computación (Famaf)de la Universidad Nacional de Córdoba (UNC), e investigadora adjunta del Conicet.

En diálogo con TSS, Benotti señala que las advertencias de los grandes referentes empresariales pueden responder también a una narrativa de concentración de poder que desplaza otros impactos mucho más inmediatos: el monopolio de las grandes compañías, el extractivismo de datos, las consecuencias sobre el trabajo, los sesgos algorítmicos y el enorme consumo energético e hídrico asociado con los centros de datos.

La observación introduce una tensión central. El debate público corre el riesgo de concentrarse en un futuro extremo —la máquina que podría superar al ser humano— mientras quedan en segundo plano los efectos que la expansión de la IA ya produce sobre la economía, el trabajo, la privacidad, los recursos naturales y la distribución del poder tecnológico.

En ese sentido, el súbito giro regulatorio de algunas de las grandes compañías puede leerse de más de una manera. Puede expresar una toma de conciencia genuina frente a capacidades que evolucionaron más rápido de lo previsto. Pero también puede formar parte de una disputa empresarial y geopolítica en la que las reglas de juego se conviertan en una nueva barrera de entrada.

El periodista español Javier Lacort, citado por De la Vega, plantea justamente esa posibilidad: los estándares regulatorios que las grandes compañías están en condiciones de cumplir podrían resultar mucho más difíciles de afrontar para empresas pequeñas o proyectos de código abierto. La regulación podría terminar protegiendo derechos y reduciendo riesgos, pero también podría consolidar las posiciones de quienes ya dominan la infraestructura y el conocimiento necesarios para desarrollar modelos de frontera.

La paradoja es evidente: quienes hoy reclaman límites son, al mismo tiempo, quienes disponen de los recursos necesarios para correr más rápido que el resto.

América Latina: mirar la carrera desde afuera

En América Latina, el problema adopta una dimensión diferente. La región consume tecnologías desarrolladas fuera de sus fronteras y dispone de capacidades mucho más limitadas para evaluar sus efectos, modificarlas o desarrollar alternativas propias.

Benotti advierte sobre una situación de dependencia tecnológica: los modelos comerciales utilizados en la región no necesariamente fueron evaluados para medir sus impactos específicos en América Latina y existe incertidumbre sobre sus costos futuros. También plantea problemas vinculados con la privacidad, debido a que determinados servicios requieren el procesamiento de información en texto plano.

Frente a ese escenario, la investigadora propone fortalecer la investigación pública regional, crear capacidades propias y adaptar modelos abiertos a las necesidades lingüísticas, sociales y económicas locales. A ello suma la necesidad de establecer alianzas multilaterales capaces de compartir infraestructura y conocimiento y de reforzar la regulación vinculada con los derechos humanos.

La discusión no ocurre solamente en el plano de las ideas. Córdoba fue sede, en septiembre de 2026, de CARLA, la Conferencia Latinoamericana de Computación de Alto Rendimiento, donde uno de los ejes centrales fue precisamente la inteligencia artificial y el posicionamiento regional frente a ella.

Nicolás Wolovick, doctor en Computación, docente e investigador de la Famaf y director del Centro de Computación de Alto Desempeño de la UNC, introduce otra dimensión: la asimetría. Ya no se trataría solamente de la distancia entre países ricos y países pobres, sino de la concentración de capacidades entre un grupo extremadamente reducido de empresas.

En esa concentración aparece además un actor menos visible en el relato habitual sobre la inteligencia artificial: Nvidia. La compañía no desarrolla principalmente los modelos sino el hardware que permite ejecutarlos. Sus GPU (unidad de procesamiento gráfico)^[2]Es un procesador especializado en realizar miles de cálculos en paralelo para renderizar imágenes, videos y acelerar tareas de inteligencia artificial. se han convertido en un insumo crítico para la expansión de la IA y el aumento extraordinario de su precio muestra hasta qué punto la demanda de capacidad de cómputo está tensionando la cadena tecnológica.

Según el ejemplo citado por Wolovick, una Nvidia RTX PRO 6000 Blackwell que costaba alrededor de u$s 6.000 en marzo de 2026 podía conseguirse por unos u$s 12.000 en mayo y superar los u$s 16.000 a fines de julio. La expansión de la inteligencia artificial no sólo genera nuevos modelos y servicios: también reorganiza el mercado de los componentes físicos indispensables para hacerlos funcionar.

Y esos componentes, además, están sometidos a controles de exportación estadounidenses similares a los aplicados a tecnologías consideradas estratégicas.

La carrera también es geopolítica

La dimensión internacional termina de completar el cuadro. La competencia por el liderazgo en inteligencia artificial se concentra actualmente, según la nota de TSS, entre Estados Unidos y China. Europa intenta sostener iniciativas propias, mientras en América Latina proyectos como el Cenia chileno, con colaboración brasileña y argentina, buscan construir capacidades en una escala mucho menor.

China rechazó la idea de ralentizar unilateralmente el desarrollo tecnológico. Su Ministerio de Asuntos Exteriores cuestionó los discursos de amenaza y competencia maliciosa, pero al mismo tiempo funcionarios del gobierno chino reconocieron la necesidad de identificar los riesgos y desafíos asociados con la IA y de avanzar en mecanismos cooperativos para gestionarlos.

Así, detrás de las declaraciones sobre el apocalipsis tecnológico aparece una disputa mucho más concreta: quién controla la infraestructura, quién establece los estándares, quién dispone de los datos y del talento, quién puede financiar los modelos más grandes y quién tiene capacidad para decidir las reglas que deberán cumplir los demás.

La inteligencia artificial llega, además, en un contexto internacional atravesado por una competencia creciente por la acumulación de capital y por la disputa entre Estados Unidos y China. A ello se suman la crisis climática y la concentración de capacidades destructivas. En ese escenario, la IA aparece para los principales contendientes como una tecnología estratégica capaz de modificar las relaciones de poder.

Por eso las advertencias de quienes ahora piden cautela conviven con una carrera que no parece detenerse. Las mismas empresas que alertan sobre los riesgos necesitan continuar aumentando sus capacidades para no quedar detrás de sus competidores. Y los Estados que podrían imponer límites también ven en la inteligencia artificial una herramienta de poder económico, tecnológico y geopolítico.

Quizás allí se encuentre la principal contradicción del momento. El problema ya no es únicamente que las máquinas puedan llegar a ser demasiado inteligentes. El problema es que quienes las desarrollan están inmersos en una competencia en la que detenerse puede significar perder posiciones, mientras avanzar demasiado rápido puede generar riesgos que todavía no saben cómo medir.

En ese punto, la pregunta inicial cambia de sentido. No se trata solamente de saber si la IA es la tecnología del apocalipsis. Se trata de entender quién está construyendo ese futuro, bajo qué reglas, con qué controles y para beneficio de quién.

Y para América Latina hay una pregunta previa todavía más urgente: si la región no participa en la construcción de esas capacidades, ¿qué margen tendrá para decidir sobre el mundo tecnológico que otros están diseñando?