• 25siete

Carta de São Paulo: Algoritmos genocidas

Actualizado: feb 9

Por Félix Rígoli

Recientemente despertó en Brasil una polémica pública por una aplicación de celular lanzada por el Ministerio de Salud que buscaba “orientar” a los médicos sobre si sus pacientes podían o no tener COVID-19, y qué hacer en caso afirmativo. Una aplicación inocente, pero potencial e intencionalmente mortífera.


Esta aplicación de celular, llamado TrateCOV, pedía una serie de informaciones del paciente, y al completar el llenado, emitía algunas recomendaciones, tales como tomar algunos medicamentos, quedarse en casa o ir a un servicio de urgencia. Según el Ministerio, esas recomendaciones eran basadas en lo que “está disponible en la literatura científica actualizada, sugiriendo la prescripción de medicamentos[1]. La aplicación tenía el objetivo de “que el diagnostico salga más rápido y el tratamiento se inicie precozmente”. Si bien era destinado a uso médico, cualquier persona podía bajarlo y probarlo.


Otra epidemia: la de los Apps para el COVID-19


Hasta allí, podría ser interesante, pero usual. Una de las tantas epidemias que vinieron con el virus es la epidemia de aplicaciones de celular para el Covid-19, junto con la epidemia de epidemiólogos de boliche, los inventores de respiradores[2] y los que tienen la cura milagrosa. Son aplicaciones que registran algo en relación al contagio, a veces con problemas éticos (privacidad, datos sin seguridad) y tienen fama corta, siendo rápidamente abandonados.


Mala tos le siento al gato: propaganda de tratamientos peligrosos por App.


En el caso de la aplicación del Ministerio de Brasil, a pesar de su apariencia inocente, llamó la atención de aquellos curiosos que además de medicina saben algo de inteligencia artificial [3]. Algunos médicos comenzaron a probar con casos ficticios y se dieron cuenta que con cualquier combinación de dos síntomas de cualquier tipo, la aplicación producía diagnóstico de COVID-19 y llevaba a la recomendación del llamado “tratamiento precoz” de Cloroquina, Azitromicina, Ivermectina y otras drogas sin eficacia probada.


Para una prueba adicional del app TrateCOV, uno de los curiosos llenó los campos con los datos de su gato con un poco de tos y diarrea[4], recibiendo la indicación de Cloroquina, Ivermectina y otros medicamentos.


Debe aquí recordarse que Bolsonaro hace tiempo sigue las ideas de Trump, que todos deberían tomar esos tres medicamentos (las recomendaciones de Viviana Canosa por suerte no llegaron a Brasil) y con eso las personas no precisaban cuidarse del COVID-19 y una vez muertos los que precisen morir, la economía seguiría en pie para los sobrevivientes. Misteriosamente, los laboratorios militares produjeron millones de dosis de algunos de estos medicamentos, especialmente de Cloroquina[5], que pocos quisieron utilizar, ni siquiera los dos ministros de salud médicos que renunciaron por esta razón.


Algoritmo, un arma genocida

Por lo tanto, esta aplicación de apariencia inocente está diseñado exclusivamente para llevar a un conjunto de pacientes y médicos distraídos a usar medicamentos no probados, y que, utilizados al barrer, son peligrosos para la vida. Es uno de los casos mejor documentados hasta el momento de un uso maligno de aplicaciones de inteligencia artificial en salud, con fines políticos y capaces de inducir muertes. Algunos infectólogos que participaron en el análisis del algoritmo, opinaron que esta aplicación era potencialmente “un arma genocida” [6].


Esta calificación puede parecer exagerada, pero no lo es, ya que el gobierno trató intencionalmente de difundir un mecanismo de uso no probado de medicamentos, todos los cuales tienen contraindicaciones importantes.


Algoritmos anti-personas

Este comportamiento no es nuevo, de hecho, están apareciendo cada vez más casos de aplicaciones peligrosas para la salud, y muchos de ellos son también agresivos para las poblaciones en especial para los más desprotegidos[7] como en el caso histórico en el cual una compañía americana ayudó a los nazis a clasificar electrónicamente a la población judía, contribuyendo a aumentar el Holocausto[8]. La aplicación usada por el gobierno de Brasil para repartir un auxilio monetario para la población en extrema pobreza, unos 65 millones de personas, solamente se podía bajar en aparatos con Android y IOS última versión y precisaban un plan de datos razonable. ¡O sea que suponían que la población en extrema pobreza podía reunir esas condiciones! Cuando la aplicación se trancaba, una página de ayuda en internet decía que “había que reconfigurar las especificaciones del teléfono”, algo fuera del alcance, casi estratosférico, para la gran mayoría de la población a la que se quería llegar. Esto hizo que la gran mayoría de los más pobres entre los pobres tuvieran que hacer cola noches enteras, aglomerándose en las ciudades más cercanas donde hubiera una agencia bancaria, desencadenando una ola de contagios en esas poblaciones.


Gobierno, tecnología y genocidio

La conjunción de gobiernos propensos a la necro-política con las tecnologías avanzadas no es una novedad, en toda la historia existieron casos de gobernantes que hicieron el matar y dominar a los pueblos sus objetivos preferidos al financiar tecnologías. Esto siempre provocó el horror de los científicos con conciencia ética.


Tampoco es nuevo este intento del gobierno de Brasil en promover medidas que contribuyen a la muerte de sus ciudadanos[9]. Un estudio reciente de Deisy Ventura, Fernando Aith de la Universidad de São Paulo y Camila Asano del Instituto Conectas Direitos[10] analizaron miles de normas oficiales y concluyen que “existió una estrategia institucional para favorecer la propagación del virus, promovida por el Gobierno brasileño, bajo el liderazgo de la Presidencia de la República”. “Es razonable afirmar que muchas personas tendrían hoy madres, padres, hermanos e hijos vivos, si no fuera porque existió un proyecto institucional del gobierno brasileño para la diseminación del COVID-19” .


Para que no queden dudas.

[1] https://www.gov.br/saude/pt-br/assuntos/noticias/saude-lanca-aplicativo-para-auxiliar-medicos-no-diagnostico-da-covid-19 [2] https://www.257.uy/post/uruguay-pa%C3%ADs-pr%C3%B3digo-en-dise%C3%B1adores-de-ventiladores-mec%C3%A1nicos [3] Bonus para nerds: el análisis más fácil de entender fue hecho por Lucio Maciel (que hizo público el código fuente que aparece en la figura de esta nota) y el hilo se puede seguir en Twitter pic.twitter.com/bSo0FfbKZ2. [4] https://brasil.elpais.com/brasil/2021-01-20/plataforma-do-ministerio-da-saude-indica-cloroquina-ate-para-o-meu-gato-morere.html?rel=listapoyo [5] https://www.bbc.com/portuguese/brasil-55747043 [6]https://www.em.com.br/app/noticia/nacional/2021/01/20/interna_nacional,1230769/app-de-pazuello-sugere-kit-covid-a-pacientes-com-sintomas-genericos.shtml [7] https://www.linkedin.com/posts/felix-rigoli-01b12b6_inteligencia-artificial-c%C3%B3mo-se-espera-incorporar-activity-6719608712731865088-3w7Q [8] https://en.wikipedia.org/wiki/IBM_and_the_Holocaust [9] https://www.257.uy/post/libertad_y_entropia [10] https://brasil.elpais.com/brasil/2021-01-21/pesquisa-revela-que-bolsonaro-executou-uma-estrategia-institucional-de-propagacao-do-virus.html

Publicación original: 26/01/2021