Yuval Noah Harari vuelve con Nexus: «La IA podría crear regímenes de vigilancia total que aniquilen la privacidad»
El historiador israelí autor de Sapiens y Homo Deus presentó su nuevo libro, Nexus, en una rueda de prensa para América Latina y España. Habló de los peligros de la inteligencia artificial, el papel en los regímenes totalitarios y cómo afecta a la democracia.
«A diferencia de la bomba atómica, que aunque tiene un poder inmenso, sigue dependiendo de decisiones humanas, la inteligencia artificial puede tomar decisiones por sí misma». Esta fue una de las declaraciones más contundentes del historiador y filósofo Yuval Noah Harari, en la presentación de su tan esperado libro, Nexus, la semana pasada. En rueda de prensa por Zoom con periodistas de América Latina y España, Harari advirtió, desde Washington DC, acerca del potencial sin precedentes de la inteligencia artificial (IA) y sus los peligros.
Harari, conocido mundialmente por sus obras como Sapiens y Homo Deus, se encuentra en plena promoción de su nuevo libro. En Nexus, recorre los últimos cien mil años de historia para ofrecer una perspectiva única sobre el papel que jugó la información y las redes en la construcción de sociedades y el control de las masas. Ahora, el historiador dice que la humanidad vive una crisis existencial autoinflingida gracias a la creación de nuevas tecnologías —como la IA— que «tienen el potencial de escapar de nuestro control y de esclavizarnos o aniquilarnos». «Si somos tan sabios, ¿por qué somos tan autodestructivos?», se pregunta Harari en las páginas del libro.
En el diálogo con los periodistas, Harari enfatizó cada vez que pudo su preocupación respecto de la inteligencia artificial, a partir de la cual se propone pensar si es un nuevo modo de vida. «La inteligencia artificial es distinta a cualquier tecnología que hayamos creado antes. No es una herramienta, es un agente», señaló y agregó: «A diferencia de tecnologías como la bomba atómica, que dependen de decisiones humanas para ser activadas, la IA tiene la capacidad de actuar de manera autónoma y tomar decisiones por sí misma”.
Harari puso un ejemplo claro para ilustrar esta diferencia: «Un editor humano decide qué historias poner en la portada de un periódico, pero en Facebook o Twitter, es el algoritmo quien decide qué contenido aparece en tu feed». Y advirtió que esta capacidad de la IA para tomar decisiones de manera autónoma está evolucionando rápidamente. «Hoy en día, la IA puede escribir textos, crear imágenes y componer música. Si bien estas creaciones aún no son perfectas, estamos viendo solo los primeros pasos de una revolución tecnológica que se acelerará mucho más rápido de lo que podemos imaginar».
Y agregó: «Si hoy ChatGPT es una ameba, en diez años podríamos estar lidiando con un dinosaurio. Y no sabemos cómo será ese dinosaurio ni qué podrá hacer». Esta capacidad de la IA para evolucionar rápidamente plantea la posibilidad de que, en un futuro no muy lejano, se desarrolle una inteligencia artificial mucho más avanzada que la actual, lo que podría llevar a una pérdida de control total por parte de los humanos.
El potencial nuevo totalitarismo tecnológico
¿Cuál es la relación de la inteligencia artificial en la política? Para Harari, que la IA conduzca a un totalitarismo sin precedentes. Sobre este tema, dijo que la tecnología tiene un potencial totalitario que no hemos visto antes en la historia. «En regímenes autoritarios como el de Stalin o el de Hitler, era imposible controlar a toda la población en todo momento porque no había suficientes agentes humanos para hacerlo», explicó y siguió: «Pero con la IA, un gobierno podría seguir a todos los ciudadanos todo el tiempo sin necesidad de un solo agente humano».
Harari puso como ejemplo a Israel, país donde reside, donde, según cuenta, se implementó un sistema de vigilancia total en los territorios palestinos ocupados, con cámaras, drones y software de reconocimiento facial que siguen a los residentes en todo momento. También mencionó a Irán, donde la IA se utiliza para hacer cumplir las leyes del velo islámico. «Las mujeres que no llevan velo en público son identificadas automáticamente por cámaras con software de reconocimiento facial, y reciben multas instantáneas por mensaje de texto», explicó. «Esto no es ciencia ficción, ya está ocurriendo».
El nivel de vigilancia al que refiere el autor de Nexus despliega un sinfín de iimplicaciones para los derechos humanos y la privacidad. «En un régimen de IA, la privacidad podría ser aniquilada por completo. Ya no necesitaríamos policías para vigilar, bastarían los algoritmos para seguir cada uno de nuestros movimientos», advirtió Harari.
La IA no solo podría seguir a las personas, sino también analizar todos sus datos, desde textos y audios hasta videos e imágenes, para encontrar patrones y anticipar comportamientos. «La capacidad de la IA para analizar grandes cantidades de información es tan grande que podría crear un régimen de vigilancia total, donde cada acción y cada pensamiento sean monitorizados y controlados».
A pesar de los enormes desafíos que plantea la inteligencia artificial y la desinformación, Harari dejó una nota de esperanza: «No podemos prometer que no caigamos en un totalitarismo tecnológico, pero el futuro no está escrito. Dependerá de las decisiones que tomemos hoy», dijo.
¿Por qué no podemos mantener una conversación racional?
Durante la rueda de prensa, Harari también reflexionó sobre por qué, a pesar de contar con las tecnologías de información más avanzadas de la historia, la sociedad parece incapaz de tener conversaciones racionales. «La gente ya no puede ponerse de acuerdo ni en los hechos más básicos», afirmó. Según Harari, esto es algo que preocupa tanto a republicanos como a demócratas en Estados Unidos, donde la polarización política alcanzó niveles extremos. «Las tecnologías que prometieron conectarnos y están, en cambio, contribuyendo a una desconexión masiva».
Ante un panorama tan sombrío, Harari enfatizó que el periodismo tiene un papel vital que desempeñar en la preservación de la democracia. «La democracia es una conversación. Y sin hechos, sin verdad, esa conversación no tiene sentido», afirmó. La prensa, según Harari, es uno de los principales garantes de la verdad en una sociedad democrática, y sin medios independientes y veraces, la democracia corre el riesgo de desmoronarse.
El autor advirtió que muchos confunden la democracia con las elecciones, pero que esta es mucho más que un simple proceso electoral. «Las elecciones son solo un mecanismo dentro de la democracia, pero lo que realmente define a la democracia es la capacidad de tener una conversación en la que se puedan identificar y corregir errores», explicó.
Y dio dos ejemplos: Venezuela y Corea del Norte: «Como acabamos de ver en Venezuela, puedes celebrar elecciones y manipularlas, y lo sabemos. Y en Corea del Norte tienen elecciones cada cuatro años, pero eso no las convierte en una democracia».
Ante la consulta sobre el uso de la inteligencia artificial por parte de la extrema derecha en distintas partes del mundo, el autor de Nexus fue contundente al respecto cuando dijo que «en muchos países se ve esto viniendo de la extrema derecha, pero la extrema izquierda puede hacer lo mismo» y agregó que comparten una profunda desconfianza hacia las instituciones que garantizan la verdad, como los medios de comunicación tradicionales, las universidades y los tribunales.
El peligro de la manipulación algorítmica
Uno de los elementos clave de esta desconexión, según Harari, es el papel que juegan los algoritmos en las plataformas de redes sociales. «Las decisiones editoriales que solían estar en manos de los editores ahora están en manos de algoritmos», dijo. «Estos algoritmos no están diseñados para difundir la verdad, sino para captar la atención de los usuarios».
Esta búsqueda por mantener a los usuarios enganchados en las plataformas ha llevado a que las teorías conspirativas, el discurso de odio y la desinformación se propaguen a una velocidad sin precedentes. «El problema no es lo que publican los usuarios, sino las decisiones editoriales que toman los algoritmos al priorizar el contenido que genera más interacción, sin importar si es veraz o no», sentenció el historiador.
Harari fue especialmente crítico con las plataformas de redes sociales y el papel que juegan en la difusión de noticias falsas y teorías conspirativas. Aunque reconoció que las empresas tecnológicas deben ser cuidadosas al censurar a los usuarios humanos, señaló que el verdadero problema no es el contenido generado por las personas, sino las decisiones editoriales tomadas por los algoritmos. «Si un algoritmo decide que una teoría conspirativa debe ser promovida y difundida porque genera más interacción, ese es el verdadero problema», explicó.
El autor hizo hincapié en que los algoritmos de Facebook, Twitter y otras plataformas no están diseñados para buscar la verdad, sino para maximizar los beneficios económicos de las empresas. «Su modelo de negocio se basa en mantener a los usuarios enganchados el mayor tiempo posible, y para lograrlo, recurren a contenidos que generan emociones fuertes como el odio, el miedo o la indignación», afirmó. Esta búsqueda de interacción a toda costa está erosionando los cimientos de la democracia, ya que las plataformas priorizan las noticias falsas y el contenido sensacionalista por encima de la verdad.
Harari hizo referencia al papel de figuras como Elon Musk, actual propietario de X (ex-Twitter), en este debate sobre la libertad de expresión y la regulación de contenidos. Según el historiador, Musk defiende la idea de que las redes sociales no deben censurar a los usuarios, argumentando que más información llevará a una mayor libertad y acceso a la verdad. Sin embargo, Harari advierte que este enfoque ignora la verdadera amenaza: «El problema no es la libertad de expresión de los usuarios, sino cómo los algoritmos eligen amplificar ciertos contenidos para maximizar el tiempo de permanencia de los usuarios en las plataformas».
La prioridad de las redes sociales no es la veracidad, sino el engagement. Esto lleva a que las teorías más sensacionalistas, que generan miedo o indignación, se difundan más rápidamente que las noticias basadas en hechos. «El algoritmo no está interesado en la verdad, está diseñado para capturar la atención. Y eso, en manos de gigantes tecnológicos como Elon Musk, puede ser una de las mayores amenazas para la democracia y la cohesión social», sentenció Harari.
Y siguió: «Si no haces, nuevamente, el esfuerzo costoso de descubrir y difundir la verdad, esta se verá inundada, enterrada bajo toda esta información basura. Y esta es la responsabilidad de las sociedades hoy en día, resistir esta visión ingenua que escuchas de personas como Elon Musk, de que solo necesitas más información y la gente encontrará la verdad por sí misma».
Una (pequeña) luz de esperanza
Aun con todos los peligros que detalló Harari en la rueda de prensa, también dijo que la inteligencia artificial tiene un potencial enorme. ¿Con qué? El autor de Nexus, por ejemplo, consideró la creación de médicos con inteligencia artificial, capaces de actualizarse constantemente sobre los descubrimientos, con la posibilidad de controlar la salud las veinticuatro horas. «En este sentido, la inteligencia artificial puede crear la mejor atención sanitaria de todos los tiempos en veinte o años».
Harari explicó que la IA tiene el potencial de superar muchas limitaciones humanas, permitiendo diagnósticos más precisos y tratamientos personalizados, lo que cambiaría radicalmente la relación médico-paciente. Sin embargo, también refirió a los riesgos de confiar ciegamente en los médicos con IA. Señaló que, aunque estos sistemas son muy eficientes en el procesamiento de datos, carecen de empatía y comprensión emocional, cualidades que los médicos humanos aportan al cuidado del paciente.
«Hay que garantizar que la tecnología sea segura, sería un paso muy significativo para la humanidad», concluyó y pidió por la regulación de la inteligencia artificial.
Fuente: Noticias Argentinas
