La aplicación de inteligencia artificial en las políticas públicas, otro desafío por una sociedad más justa
El desarrollo de algoritmos no es neutral, el diseño y la funcionalidad de un algoritmo reflejan los valores de sus diseñadores y usos pretendidos. Sin una supervisión humana calificada y activa, los algoritmos inexorablemente conducen a resultados sesgados. El caso de la predicción del embarazo adolescente en Salta revela la necesidad de contar con instancias de reflexión crítica acerca del papel del Estado en la aplicación de inteligencia artificial en sus políticas públicas.
La gran mayoría de las aplicaciones de inteligencia artificial (IA) se basa en un método conocido como «aprendizaje automatizado» (machine learning), cuyos algoritmos están especializados en encontrar patrones (estructuras o relaciones recurrentes o regulares) que se pueden encontrar en un conjunto de datos.
Los procesos de aprendizaje automatizado basados en enfoques multidisciplinarios y abiertos son de enorme utilidad, otros tienen un impacto muy negativo en la vida de las personas: pueden exacerbar desventajas sociales preexistentes que se reflejan, por ejemplo, en la injusticia de una contratación laboral, en el otorgamiento crediticio, en el acceso a la salud y a la vivienda, en el sistema de justicia penal y en la seguridad, entre otros ámbitos, como detalle claramente la experiencia de la matemática Cathy O´Neil en su libro Armas de destrucción matemática.
Debemos estar atentos, por tanto, a si los procesos basados en algoritmos y datos conducen a resultados discriminatorios. Es lo que sucede, por ejemplo, cuando identifican correlaciones y hacen predicciones acerca de la conducta de un determinado grupo en una comunidad basados en atributos sensibles como género o grupo étnico.
Los datos digitales y los procesos de inteligencia artificial (IA) se aplican a las conductas y el hacer de las personas en el territorio digital. Además, son el motor y la materia prima de los procesos de big data sobre los fenómenos naturales y de artefactos (dispositivos de base electrónica). Esta fábrica de información constituye la base de una economía digital.
Con el impacto de la digitalización en el sector industrial (en sentido amplio de industria como producción de dispositivos y datos) gran parte de los procesos y sistemas económicos están basados en inteligencia digital. Las nuevas modalidades del trabajo en la economía ocupan un lugar central en la redefinición digital del mundo. El dividendo de eficiencia es demasiado alto, y una gran cantidad de servicios completamente novedosos son muy atractivos para que las sociedades los resista sin presencia fuerte de una política pública que ordene el juego de las corporaciones fuertemente concentradas y las consecuencias sociales de este nuevo orden social.
Un requisito importante para la democracia sobre la política digital es permitir que las personas retengan la seguridad sobre la información personal y su recorrido en el territorio digital.
Los ciudadanos internautas tienen que poder negar por completo el acceso a algunos tipos de datos y compartir otros solo con protocolos confiables (conocido). Además, deberían poder conocer y controlar cualquier uso posterior de su información personal, cuyo abuso puede causar daños graves. Estos son los principios fundamentales que subyacen a varios regímenes de protección de datos personales, como el Reglamento General de Protección de Datos (GDPR) de la Unión Europea y la ley de protección de datos propuesta por la India.
Al pan, pan, y al vino, vino
El médico pediatra Albel Albino volvió a ser noticia. El pasado 5 de febrero, el Ministerio de Capital Humano, a cargo de Sandra Pettovello, firmó un acuerdo con la Fundación Cooperadora Nutrición Infantil (Conin), presidida por Albino, en el que ambas partes se comprometen a trabajar en la lucha contra la desnutrición infantil. Las tareas se realizarán junto con los más de cien centros de esa ONG en la Argentina, además de las 1500 instituciones que dan ayuda alimentaria a familias y niños en situación de vulnerabilidad, acompañándolos desde su primera infancia y desarrollo. El objetivo es desarrollar y promover proyectos y actividades que resulten de interés común a fin de implementar acciones y actividades en el marco del Plan Argentina contra el Hambre.
El proyecto será financiado por el Ministerio a cargo de Sandra Petovello. En tal sentido, el destino final del acuerdo económico son los centros nutricionales ubicados en distintos puntos del país, entre los que figuran los ubicados del norte salteño, donde se registran altas tasas de mortalidad infantil, y donde Albino había incursionado en la gestión del gobernador Urtubey.
El médico pediatra llegó a Salta en 2013 con la fundación que se ocupa de la desnutrición infantil para desarrollar un proyecto de inteligencia artificial aplicado a la prevención de embarazos en jóvenes. Ahora el gobierno de Javier Milei nuevamente le otorgó fondos para sus centros nutricionales.
En un libro que publicó en 2010, Albino propuso como método para eliminar la desnutrición infantil «combatir la promiscuidad, la pornografía, el autoerotismo, la anticoncepción, la infidelidad y el concubinato». El médico rechaza la homosexualidad y toda diversidad de género, y fue ferviente militante contra una norma que regule la interrupción voluntaria del embarazo (IVE).
Conin ya recibió financiamiento de la Nación durante la presidencia de Mauricio Macri. En el informe 108 de la Jefatura de Gabinete de ministros de abril de 2018 ante el Senado Nacional, quedó registrada la respuesta de Marcos Peña a una pregunta realizada por legisladores. Ese día informó que su gobierno había transferido desde 2016 a la Cooperadora para la Nutrición Infantil $ 77.000.000 y restaba depositarle poco más de $ 121.000.000. La exministra de Mauricio Macri, Carolina Stanley, no le soltó la mano cuando dijo que el SIDA era un virus que atravesaba la porcelana o expresó dudas sobre efectividad de los preservativos, definiciones que fueron cuestionados por la Sociedad Argentina de Pediatría.
Albino ya había sido beneficiado con otros convenios del gobierno de la Ciudad de Buenos Aires, durante el mandato de Mauricio Macri, como así también con el abogado Alejandro Finocchiaro, ministro de Educación de la Nación, para «mejorar las condiciones de educabilidad de los niños entre tres y cinco años».
Albino es miembro del Opus Dei y fundó en 1993 la Cooperativa de Nutrición Infantil a semejanza de la Conin chilena, que fundó en 1975 Fernando Monckeberg Barros. Nació en Morón (provincia de Buenos Aires) y estudió medicina en la Universidad Nacional de Tucumán. Luego se especializó en pediatría en Chile, se doctoró en la Universidad Nacional de Cuyo, y cursó Biología Molecular en la Universidad de Navarra Josemaría Escrivá de Balaguer, fundador del Opus Dei.
Los antecedentes en Salta, datos y algoritmos
En la Coordinación de Enlace y Relaciones Políticas del gobierno salteño actual, aseguraron que se enteraron por los medios del acuerdo de Abel Albino y Conin con el Gobierno nacional. «La relación no terminó bien», admitieron sobre la experiencia que tuvo el Estado salteño con la fundación y sus franquicias solidarias durante la administración de Juan Manuel Urtubey.
«Estoy militando activamente en toda la Argentina para que en el corto plazo podamos tener un ministerio de la primera infancia en el país. Yo quiero que la Argentina sea cabecera en este sentido», dijo Albino durante un discurso que brindó en Salta en 2015, cuando lanzó la Red Mundial Conin. Para mayo de 2013, contaba con un convenio marco (decreto provincial 1499) que formalizaba vínculos de colaboración entre el gobierno salteño y la red de las ONG vinculadas con Conin por franquicias solidarias. Entre las más importantes: Nutrir, Fundación Manos Abiertas, Amanecer, Revivir, Changuito de Dios, Anpuy y Junior Achievement Argentina.
En 2014, Albino vio concretada la creación de un Ministerio de Primera Infancia en Salta. Meses antes ya había coronado otro proyecto: una ingeniería de recolección de grandes volúmenes de datos que involucró al Estado salteño, a Conin y una multinacional tecnológica.
El médico Albino fue responsable de la definición de los datos que se recolectaron de población vulnerable en Salta para entrenar la inteligencia artificial anunciada como un hito de modernización por el entonces gobernador Urtubey.
El 10 de junio de 2014 la filial argentina de Microsoft informó sobre un acuerdo con el Estado salteño en el marco del programa nacional Argentina Avanza y en cuatro áreas prioritarias de interés para la provincia: educación, juventud, empleo e innovación. Carlos Francisco Abeleira, exfuncionario de la Secretaría de Obras Públicas del exgobernador y actual senador nacional Juan Carlos Romero, y a cargo del Ministerio de Primera Infancia, firmó otro acuerdo más específico sobre la ejecución de un plan de acción. Microsoft habilitaba al Estado salteño a utilizar «herramientas tecnológicas de procesamiento de información como mecanismo de diagnóstico orientado a detectar indicadores de vulnerabilidad social». Mencionaba la confidencialidad de los datos personales, pero no donde se alojarían y si estarían disponibles para los usuarios que brindaran la información requerida.
En abril de 2018, Urtubey dijo que su gobierno está trabajando en un software que utiliza inteligencia artificial para saber si las mujeres de su provincia pueden quedar embarazadas. «Con la tecnología vos podés prever cinco o seis años antes, con nombre, apellido y domicilio, cuál es la niña que está un 86 % predestinada a tener un embarazo adolescente». En la misma entrevista, anuncio que su administración estaba desarrollando el trabajo con la compañía de tecnología Microsoft. La IA se alojaría en la nube Azure de Microsoft.
Sin embargo, en la definición de datos recolectados para alimentar el algoritmo (software) de predicción de embarazo no existían preguntas sobre anticoncepción ni educación sexual. Pero sí edad, etnia, estudios, barrio de residencia, discapacidad, país de origen y abandono de estudios. El modelo fuertemente sesgado por la especificación de los datos recolectados, o incluso un prejuicio, de asociar el embarazo a la pobreza, e incluso a una promiscuidad propia de etnias y lugares.
En 2017, el gobierno de Salta y Microsoft firmaron una extensión de la cooperación para utilizar la plataforma IA de Microsoft. Fuentes en el gobierno salteño aseguran que ese acuerdo terminó en 2019, cuando asumió el actual gobernador de Salta, Gustavo Saénz. Sin embargo, Microsoft jamás devolvió los datos al Estado salteño.
El exsubsecretario de Tecnologías de Información y Comunicación de Salta, Guillermo Flores Avellaneda, recordó que mientras fue funcionario en esa área de gobierno «se realizaron pedidos a Microsoft para que devuelva la información a la provincia». Los pedidos los hicieron las extitulares del Ministerio de Desarrollo Social durante el primer período de Gustavo Sáenz, Verónica Figueroa y Silvina Vargas. «El problema —explicó Flores Avellaneda— fue el vacío legal existente» en Argentina en los años en que el gobierno de Salta firmó los acuerdos con Microsoft. Esta empresa ya no pertenece a Bill Gates. Hasta setiembre de 2023, entre los principales accionistas institucionales del gigante tecnológico figuraban The Vanguard Group y BlackRock.
En el programa Brotes Verdes, se mostró quiénes estuvieron detrás del modelo de predicción: la Fundación Conin y su presidente Abel Albino, junto con el presidente de Microsoft. El Laboratorio de Inteligencia Artificial Aplicada (LIAA), del Departamento de Computación, Facultad de Ciencias Exactas y Naturales, Universidad de Buenos Aires y el Instituto de Investigación en Ciencias de la Computación, Conicet- UBA, fueron muy críticos acerca del sistema desarrollado por Microsoft y el gobierno de Salta.
Al respecto, Diego Fernández Slezak, director del LIAA, argumento que su equipo se había visto en la obligación de contestar y reunirse para emitir un informe que diera argumentos serios al problema. Dicho informe detallaba que el modelo estaba repleto de errores: «Si en lugar de tomar los datos de las personas actuales tomamos cualquier dato al azar, el resultado sería el mismo. Así de mal está lo que hicieron (…) Creo que fue un error involuntario de alguien inexperto, que como dio el resultado que ellos querían que dé, después no se tomaron el trabajo de auditarlo». Fernández Slezak, sostuvo que «no validaron el sistema con otra institución como la UBA, equipos del Conicet, la Fundación Sadosky o incluso otras empresas especializadas en machine learning. Trabajar con aprendizaje automático no es sencillo y en este caso no implementaron las validaciones suficientes».
Luciana Ferrer, investigadora de LIAA, explicó que «evaluaron el modelo de predicción en datos que ya habían usado para aprender. Es equivalente memorizarse las respuestas previamente. Cuantas más hayas aprendido, mejor te va a ir, pero eso no implica que hayas aprendido mucho sobre el tema». El segundo error es que, con los datos que tienen, no están prediciendo embarazos a futuro, si no los ocurridos en el pasado o actualmente en curso: «Finalmente, está el problema del sesgo en los datos. Se está asumiendo que las encuestadas declararon la verdad sobre si habían estado embarazadas o estaban embarazadas en ese momento. En un tema tan delicado como el embarazo adolescente, sería cauteloso asumir que muchas adolescentes mintieron, sobre todo si abortaron. Esto implica que, al usar estos datos, estaremos aprendiendo información sesgada, influenciada por factores como cuáles sectores de la población tienen más facilidades para abortar o en qué sectores es más tabú quedar embarazada en la adolescencia y por lo tanto es algo que la adolescente escondería».
Las observaciones que mostraron el sesgo de los datos del modelo de IA implementado por Microsoft, no frenaron a Urtubey y su socio tecnológico. En noviembre de 2016, firmó con el gobierno de La Rioja un convenio mediante el cual donaba a ese Estado provincial el manejo de la estructura tecnológica, que incluyó capacitación interjurisdiccional, en materia de primera infancia. El documento mencionaba que la plataforma tecnológica Azure permitiría «mejorar de manera inmediata la aplicación de políticas públicas (de erradicación de la pobreza) uniendo las ofertas del Estado y las ONG con las necesidades reales de las personas sin depender de ningún intermediario». La expansión territorial continúo mediante convenios para donar su Plataforma de Primera Infancia a los gobiernos de Jujuy, Córdoba y Tarija (este último, del Estado Plurinacional de Bolivia).
Albino, al que se subsidió para la atención de la salud de los niños salteños, ya registraba desopilantes ideas y convicciones en sus libros».[1] Albino, A (2010). Gobernar es poblar. Criterios antropológicos y éticos para una correcta educación sexual. Buenos Aires: Ediciones Logos. En este texto puede leerse: «El sexo es una maravilla que tenemos para contribuir a la obra de Dios, no para divertirse”. También que «la masturbación es una adicción y genera angustia”. O que «la mujer debe esforzarse por ofrecer al hombre su virginidad tanto física como moral”. En ocasión de las argumentaciones sobre la alternativa de la despenalización del aborto, en su exposición en el Congreso Nacional, en julio de 2018, Albino —entre otros muchos y graves extravíos— desestimó el uso de preservativos para la prevención de enfermedades afirmando indubitablemente que «el preservativo no protege del sida porque el virus atraviesa hasta la porcelana».
Los niños de la comunidad wichí continúan muriendo en la provincia de Salta. Ellos, ponen en evidencia, dolorosamente, que la transferencia de la responsabilidad del Estado y sus políticas públicas sobre el cuidado hacia cierto tipo de fundaciones no garantiza la salud y la vida misma de la población.
Frente a la retórica instalada de una IA eficiente y libre de prejuicios, una visión popularmente instalada de la IA, es inadecuada, orientada únicamente a sostener la redefinición digital de la vida orgánica manos de las los «dueños de los datos» es decir las Google, Amazon, Microsoft entre otros.
No es posible plantear una IA valorativamente neutra. Los sesgos en los datos y el modelo de IA implementado tienen injerencia en el resultado final. La aplicación de IA en políticas públicas y en la toma de decisiones en ámbitos privados, lejos de ser una herramienta para combatir desigualdades estructurales a partir de su supuesta neutralidad y eficiencia, termina consolidando escenarios perjudiciales para poblaciones vulnerables, esta vez con una metodología que se presenta como «justa» e «imparcial» y que impide instancias de apelación o transparencia de cuidado social.
El desarrollo de algoritmos no es neutral, se realiza a partir de una decisión en medio de varias elecciones posibles. En este sentido, como el diseño y la funcionalidad de un algoritmo reflejan los valores de sus diseñadores y de sus usos pretendidos, los algoritmos inexorablemente conducen a decisiones sesgadas.
La definición del problema, el diseño y la preparación de datos, la selección del tipo de algoritmo, la interpretación de los resultados y la planificación de acciones a partir de su análisis, contextualizan el grado de soberanía en el proceso de implementación de un proyecto de IA y el cuidado de los resultados.
Sin una supervisión humana calificada y activa, ningún proyecto de inteligencia artificial podrá lograr sus objetivos y obtener buenos resultados. Los mejores resultados de la ciencia de datos se producen cuando la experiencia humana multidisciplinaria y la potencia de los algoritmos trabajan de forma conjunta. En este sentido, el caso de la predicción del embarazo adolescente en Salta revela el carácter acuciante y cerrado de contar con un debate público que habilite instancias de profunda reflexión crítica sobre el rol del Estado y sus políticas públicas.
El señalamiento y la ponderación crítica de los distintos tipos de sesgos que impactan en las diversas etapas que constituyen los procesos de IA, alertan sobre como esta disciplina moldea nuestras vidas y las sociedades que conformamos.
NOTAS RELACIONADAS
Notas
↑1 | Albino, A (2010). Gobernar es poblar. Criterios antropológicos y éticos para una correcta educación sexual. Buenos Aires: Ediciones Logos. |
---|