Lavender, Wannsee y la banalidad del mal

Israel hoy es un Estado que le debe su ontología política a la geopolítica. Si esas condiciones de geopolítica cambian, no hay futuro posible para ese Estado. En un gesto de lucidez extrema, el Estado de Israel quiere garantizar su propio futuro destruyendo el futuro del pueblo palestino.

Una niña palestina observa un dron militar que sobrevuela las casas destruidas en el campo
de refugiados de Rafah, Franja de Gaza (Foto AFP, Moahmed Abed)

Hanna Arendt, en el juicio a Eichmann, no alcanzaba a comprender la incapacidad del Obersturmbannfürer de las Schulzstaffel (SS) de discriminar lo humano de aquello que era el mal. ¿Cómo era posible que Eichmann haya puesto en marcha toda una maquinaria de guerra para industrializar la muerte de inocentes por el solo delito de ser diferentes? Fue esa desmesura del mal lo que llevó a Arendt a esbozar una de las propuestas filosóficas más potentes de la modernidad: la banalidad del mal.

Lejos de toda teodicea, el mal moderno se instila y se reproduce en los mecanismos más íntimos de la misma modernidad y es capaz de convertir al más pacífico de los ciudadanos en una máquina de matar, con la diferencia de que no llega a ser consciente de sus crímenes y, por tanto, se asume inocente; su argumento: «solo obedecía órdenes». Justo por eso es banal.

Después de todo, el criterio que primó en la Conferencia de Wannsee en la Alemania nazi (sitio y fecha exacta en el que empezó la solución final), fue aquel de la modernidad: la estructura racional de lo real. Si había que asesinar a millones de seres humanos, entonces había que hacerlo racionalmente. De los quince participantes en esta conferencia que definió el asesinato en masa de los judíos, ocho tenían doctorados académicos. Ninguno de ellos opuso el más mínimo cuestionamiento moral, aunque sabían exactamente lo que hacían.

Matar de forma racional a millones de seres humanos supone apelar a una lógica de la eficiencia; es decir, la lógica económica. David Ricardo, un economista del siglo XIX y uno de los fundadores de la economía política, la denominaba ciencia lúgubre, la historia demostraría que, en realidad, era una ciencia tenebrosa. Ahí, en esa lógica tenebrosa de adecuar medios escasos para fines alternativos, subyace la banalidad del mal: ¿Cómo asesinar gente inocente, acusada del delito de ser diferente, de la manera más eficiente posible? Pues, utilizando los recursos escasos de manera eficaz para igualar la función de maximización de la oferta con aquella de la demanda.

Ahora, Israel lo hace, pero con inteligencia artificial, pero eso no quita que, finalmente, sean seres humanos quienes sean asesinados de forma masiva. ¿Qué pensaban los ingenieros y todos los programadores que trabajaron en el algoritmo de inteligencia artificial Lavender? ¿Alguna vez tuvieron, aunque sea de forma fugaz, algún cuestionamiento ético? ¿Sabían lo que hacían? Pues, al igual que en Wannsee, ellos evidentemente sabían que estaban diseñando una máquina de matar inocentes, pero, igual que Eichmann, se sienten inocentes, en el mejor de los casos, «solo obedecían órdenes».

Quizá eso los diferencie de Oppenheimer. Él sabía que la bomba atómica destruiría vidas inocentes, pero sabía también que era el precio que había que pagar por la paz del mundo. Se sentía culpable porque era consciente. Los ingenieros de Google o los que diseñaron Lavender no llegan a tanto. 

El siglo XX está atravesado de genocidios. Desde aquel de los armenios hasta el de los tutsis, se evidencia que la modernidad no ha sabido convivir con sus diferencias radicales. Los turcos hasta el día de hoy no reconocen su responsabilidad del genocidio armenio. El presidente norteamericano Bill Clinton tampoco reconoce su responsabilidad del genocidio tutsi, a pesar de las insistencias internacionales para que la ONU no retire los cascos azules de Ruanda porque, de hacerlo, provocaría un genocidio. Igual, lo hizo. 

Sin embargo, en el siglo XXI, era de la robótica, las nanotecnologías, las biotecnologías y la inteligencia artificial, ese malestar de la modernidad con sus diferencias radicales aún se mantiene, pero ahora las resuelve de manera más tecnológica. Si hay que matar a miles de seres humanos, entonces hay que hacerlo racionalmente y qué mejor forma de hacerlo, además, que con inteligencia artificial. 

Como es un genocidio políticamente correcto, entonces la banalidad del mal opera de la misma forma en que lo hacía Eichmann. De la misma forma que los nazis habían evacuado toda ontología política a los judíos, y los habían reducido al vacío ontológico, así, ahora, Israel hace lo mismo con los palestinos, pero, cabe insistir, con inteligencia artificial.

La empresa Google, una de las corporaciones con las más altas cotizaciones bursátiles del mundo capitalista, y responsable del motor de búsqueda por internet más utilizado, conjuntamente con Amazon, están por crear un proyecto que invisibiliza al pueblo palestino, se denomina Proyecto NimbusAquello que nunca existió no puede haber sido víctima de nadie. Así, el genocidio se completa con el olvido absoluto. Para las futuras generaciones acostumbradas a explorar lo real desde los navegadores de Google, Palestina nunca existió. Si eso es así, entonces el genocidio de Israel tampoco existió. 

El programa de inteligencia artificial, denominado Lavender para identificar a los seres humanos (en este caso palestinos) para, posteriormente, ser asesinados por el Estado de Israel suscita varias interrogantes: ¿Y el supuesto Estado de derecho? ¿Y el debido proceso? ¿Y si las víctimas eran inocentes? ¿Qué pensar de un Estado que se arroga a sí mismo el criterio de definir la vida y la muerte en función de sus propios baremos? ¿Acaso no hacían lo mismo los nazis? Cuando el asesinato es el criterio político para resolver las diferencias radicales, ¿no replica eso la misma lógica de Wannsee? Cuando se utiliza la inteligencia artificial como supuesto tecnológico para la barbarie, ¿no replica eso Auschwitz y la lógica del lager?

La mitad de las víctimas del genocidio de Israel son niños. De todos los genocidios modernos, Israel innova al escoger a los niños como objeto de su violencia. Si la tasa de crímenes de niños es de alrededor de la mitad de todos los asesinatos, entonces Lavender no comete errores, sino que obedece a instrucciones precisas. Estamos ante la presencia del primer genocidio infantil de la historia moderna. Herodes pasa del mito a la realidad. ¿Cómo pintaría ahora Brueghel, el viejo, la masacre posmoderna de los inocentes?

Israel quiere eliminar los niños porque quiere suprimir el futuro de todo un pueblo y ello nos ayuda a comprender mejor el Proyecto NimbusLos niños de hoy son los adultos de mañana. Israel tiene miedo de ese mañana y quiere suprimirlo y lo hace eliminando a los niños. Para Israel esos dulces y adorables niños, en realidad, son una amenaza que es mejor conjurar a tiempo: pura heurística del mal. Esos niños, con su existencia, le demuestran a Israel que van a disputarle el derecho al futuro. 

¿Por qué Israel tiene miedo al futuro? Porque intuye que, a largo plazo, como Estado, no tiene posibilidades. Porque ese futuro en tanto Estado no depende de sus raíces ni de su cultura, sino de la geopolítica. Es un Estado que le debe su ontología política a la geopolítica. Si esas condiciones de geopolítica cambian, no hay futuro posible para ese Estado. En un gesto de lucidez extrema, el Estado de Israel quiere garantizar su propio futuro destruyendo el futuro del pueblo palestino. Esto da cuenta que el genocidio infantil ha sido pensado de forma lúcida para suprimir, por la violencia del crimen, el futuro de todo un pueblo.

Es también el primer genocidio con ayuda de la inteligencia artificial. Si alguna vez se había pensado que la inteligencia artificial era una frontera sobre las posibilidades de las sociedades humanas y su relación con la técnica, ahora se comprende que la inteligencia artificial, para el Estado de Israel, cumple la misma función que el Zyklon B para los nazis. Apenas una herramienta de limpieza étnica.

Así, se degrada lo que la humanidad había discutido sobre inteligencia artificial. Había algunos, como aquellos del grupo Less Wrong que consideraban a la IA como una amenaza a la humanidad porque la consideraban capaz de tomar decisiones que disputen el sentido ético de la humanidad, de ahí su metáfora del basilisco de Roko. Pero Israel ha puesto a la inteligencia artificial quizá en su justa dimensión: como una tecnología que puede utilizarse tanto para programación industrial-comercial o para el genocidio de niños. Si una inteligencia artificial no puede discriminar y establecer horizontes éticos entonces no es inteligente. Es solamente una aplicación tecnológica que puede utilizarse para cualquier fin. 

El siglo XXI debe aprender a descorrer los velos de su rostro de Medusa. Este primer genocidio de niños en la historia moderna pone a Occidente en su peor momento. Si Occidente había apostado al fundamentalismo de su democracia liberal y de su economía de libre mercado como las únicas opciones posibles para cualquier sociedad moderna, ahora, cuando es necesario salvar esa frontera deontológica de lo posible con respecto a la estructura ontológica de lo existente, Occidente decide suprimir la deontología, vale decir la ética, para salvar el poder, la geopolítica y, aquello que el profesor Hubermann denominaba «los bienes terrenales». Ahora descubrimos, con pesar por supuesto, que Occidente nunca fue ético. Solo fue un simulacro. Queda, entonces, devolver la máscara y asumir la historia. 

Economista ecuatoriano con estudios de maestría en Lovaina (Bélgica), doctorado en Economía por la Universidad Grenoble-Alpes (Francia), y posdoctorado en la Universidad Andina (Quito-Ecuador). Profesor de posgrado, conferencista internacional en temas de teoría económica.


MIRÁ TAMBIÉN

Cuando acecha el algoritmo

POR PABLO TARANTO | Mientras en el mundo avanzan las regulaciones en sus usos, en la Argentina se crea una Unidad de Inteligencia Artificial Aplicada a la Seguridad que apunta a patrullar redes sociales utilizando algoritmos de aprendizaje automático para «predecir futuros delitos». Los especialistas reflexionan sobre los peligros del sesgo en los sistemas de «actuación policial predictiva», ya desestimados en muchos países.


Inteligencia artificial, el futuro en el presente

POR OSVALDO NEMIROVSCI | Todas las fuerzas políticas luchan por dominar los espacios tecnológicos. Por eso, la Argentina debe organizar y regular esa autodefensa nacional, para que los avances tecnológicos mejoren la calidad de vida y estén dotadas de Ética en su instrumentación.


¿Cuáles son los desafíos, las promesas y los problemas de la inteligencia artificial?

El filósofo y docente de la Universidad Nacional de Quilmes (UNC), Daniel Busdygan, reflexiona sobre el futuro de esta tecnología que presenta ilusiones y esconde dilemas éticos y políticos.


También te podría gustar...

Deja un comentario