Portada :: Conocimiento Libre
Aumentar tamaño del texto Disminuir tamaño del texto Partir el texto en columnas Ver como pdf 16-10-2019

la tecnologa refuerza vulnerabilidades estructurales en Amrica Latina
Vigilancia, control social e inequidad

Jamila Venturini
derechosdigitales.org


La implementacin de programas que condicionan el acceso a servicios bsicos por medio de vigilancia estatal y privada agudizan la inequidad imperante en el continente.

Mientras la brecha entre ricos y pobres se incrementa en el mundo, Amrica Latina sigue siendo la regin donde la riqueza se distribuye de forma ms desigual. Segn la Comisin Econmica para la Amrica Latina y el Caribe (CEPAL), existen marcados desequilibrios territoriales entre los distintos niveles socioeconmicos en aspectos como la esperanza de vida, la mortalidad infantil, la tasa de analfabetismo y el acceso a agua al interior de las viviendas. As, la altsima inequidad que asola al continente influye directamente en el bienestar de sus habitantes, sus posibilidades de desarrollo y en el ejercicio de sus derechos fundamentales.

La implementacin de programas que condicionan el acceso a servicios bsicos a la vigilancia estatal y privada ejemplifican de manera clara no solamente el hecho de que las tecnologas no son neutras, sino que impactan de forma diferenciada a distintos grupos humanos, de acuerdo a su gnero, al color de su piel y a su clase social.

Aprovechndose de las deficiencias de nuestros sistemas legales y explotando sus reas grises, la industria ha impulsado agresivamente un tecnosolucionismo chauvinista, abrazado irresponsablemente por una clase poltica con ganas de figurar a la sombra de una idea tristemente reducida de progreso. As, el negocio se transforma en la promesa de un beneficio acotado, que se consigue a costa de los derechos de quienes no tienen ms opcin que someterse al escrutinio constante, a la vigilancia, al control, a la discriminacin. Hablar de desigualdad en Amrica Latina es hablar de la ponderacin que se hace entre los derechos de quienes pueden acceder a otras posibilidades y quienes no.

La inequidad se esconde hoy tras una serie de muletillas de significado impreciso big data, decisiones algortmicas, inteligencia artificial que en nombre de la eficiencia intentan naturalizar los sesgos bajo los cuales operan, haciendo inescrutables los sistemas que los procesan y la forma en que son usados para regular el acceso a programas sociales, el uso del transporte pblico o la asistencia a eventos populares.

Ejemplos no faltan. En Argentina, la provincia de Salta firm en 2017 un acuerdo con Microsoft para utilizar inteligencia artificial en la prevencin del embarazo adolescente y la desercin escolar. Segn la empresa, a partir de datos recolectados por medio de encuestas a sectores vulnerables de la sociedad los algoritmos inteligentes permiten identificar caractersticas en las personas que podran derivar en alguno de estos problemas y advierten al gobierno para que puedan trabajar en la prevencin de los mismos. Los datos recabados son procesados por servidores de Microsoft distribuidos alrededor del mundo y el resultado de ese procesamiento apunta especficamente a las adolescentes identificadas como personas bajo riesgo, afectando no solamente su privacidad, sino tambin su autonoma y generando amplio potencial de discriminacin. Se trata, finalmente, de un mecanismo dirigido de control sobre personas en situacin de vulnerabilidad que son expuestas a intervenciones sin su consentimiento, reforzando la vulnerabilidad de las personas que son privadas incluso de la posibilidad para decidir sobre esas intervenciones.

Aunque se argumente que los datos utilizados para la proyeccin son entregados voluntariamente, es cuestionable la idea de que las nias y adolescentes afectadas por estas medidas o sus responsables puedan prestar un consentimiento activo y realmente consciente sobre las implicaciones de entregar informacin especfica sobre sus hbitos sexuales y potencial embarazo. Cabe sealar que Salta fue la ltima provincia argentina que dej de impartir educacin religiosa en las escuelas pblicas despus de un fallo de la Corte Suprema, reconociendo la existencia de violaciones a los derechos a la igualdad y a la no discriminacin, as como a la privacidad de los ciudadanos y ciudadanas. El uso tecnolgico descrito no es sino expresin de problemas ms amplios para comprender los mbitos de autonoma y privacidad de las personas, con un propsito poltico.

En Brasil, el Ministerio de Ciudadana firm un acuerdo con el gobierno de Salta y Microsoft para implementar un programa similar. En este caso, adems de la prevencin del embarazo adolescente y la desercin escolar, se pretende anticipar cuestiones como la desnutricin y enfermedades en la primera infancia. El pas sera el quinto en la regin en compartir la experiencia argentina. Adems de dudas sobre el consentimiento informado y el acceso del Estado a informaciones sensibles sobre poblaciones vulnerables, quedan sin respuesta algunas preguntas sobre qu otros usos u previsiones se pueden extraer de esos datos y cules los lmites para su tratamiento por parte de Microsoft y los gobiernos involucrados en el programa.

Por su parte, Chile inici en 2019 la implantacin piloto de una herramienta que busca detectar a nios, nias y adolescentes en situacin de riesgo. Segn el Ministerio de Desarrollo Social y Familia, Alerta Niez es un instrumento preventivo que identifica el conjunto de condiciones individuales, familiares, del entorno y de los pares de los nios y nias y adolescentes, que tienden a presentarse cuando existe un riesgo de vulneracin de derechos de nios, nias y adolescentes. El sistema se basa en el procesamiento estadstico de grandes cantidades de datos provenientes de organismos pblicos para calificar a la poblacin menor de 18 aos, ordenando a las personas segn su probabilidad de sufrir vulneraciones.

Aunque en este caso el sistema haya sido desarrollado por una universidad privada local, nuevamente se trata de una iniciativa invasiva de recoleccin de datos sensibles de menores de edad que conlleva gran riesgo de profundizar situaciones de prejuicio y estigmatizacin hacia grupos histricamente vulnerables. Adems, estos procesos implican la transferencia de datos personales a terceros y la posibilidad de que esos datos sean usados para fines distintos a los que permitieron su recoleccin; sin bases legales ni garantas de que la informacin generada no ser utilizada a futuro con otros propsitos, como iniciativas de policiamiento predictivo por ejemplo.

Dado que cuestiones como embarazo adolescente, evasin escolar y desnutricin son problemas estructurales en la regin, es extremadamente cuestionable que las polticas asociadas sean mediadas o condicionadas a la recoleccin de grandes cantidades de datos. Que no exista a su vez una preocupacin por los derechos de nios, nias y adolescentes, concordante con instrumentos vigentes en toda la regin, da cuenta de un problema ms profundo.

Vigilancia, control y exclusin

En Chile, la implementacin de sistemas de identificacin biomtrica en el sistema nacional de salud preocupa por las posibles limitaciones que podra generar a poblaciones marginadas y empobrecidas -e incluso a personas mayores, por la prdida de legibilidad en rasgos como las huellas digitales- para su acceso a servicios bsicos de salud.

La implementacin del llamado Sistema Biomtrico para la Seguridad Alimentaria en Venezuela, a travs del cual se exige a los ciudadanos la verificacin de su identidad a travs de la huella digital para adquirir productos categorizados como de primera necesidad (productos alimentarios, de higiene y medicinas), ha generado denuncias por discriminacin hacia personas extranjeras -documentadas e indocumentadas- y personas transgnero. La situacin es particularmente preocupante dada la situacin de escasez de bienes esenciales y la crisis humanitaria que se agrava en el pas, principalmente afectando los derechos a la alimentacin y salud de las poblaciones ms vulnerables.

En So Paulo se implement hace dos aos el uso de cmaras de reconocimiento facial en el sistema de transporte pblico, con la justificacin de que ayudaran a evitar el fraude en el uso de beneficios sociales asociados al transporte, como descuentos a adultos mayores, estudiantes y personas con discapacidad. En estos dos aos el sistema ha bloqueado ms de 300 mil tarjetas supuestamente usadas indebidamente, o sea, no por sus titulares. Por otra parte, la municipalidad ha anunciado la suspensin total las tarjetas annimas y ha implementado medidas para obligar el registro de las tarjetas con datos de identificacin nicos y residenciales. Este tipo de medida puede impactar en el acceso de personas no registradas como personas sin techo e inmigrantes al servicio. En una ciudad de las dimensiones de So Paulo, las tarjetas que permiten la integracin con descuento a distintos tipos de transporte son fundamentales para la locomocin de gran parte de la poblacin al trabajo, escuela y actividades culturales. El bloqueo o imposibilidad de acceso a medios de transporte puede tener un gran impacto en la vida y el desarrollo de las personas.

Adems de crear limitaciones al acceso a servicios pblicos para grupos histricamente marginados de la poblacin, los sistemas de identificacin obligatoria y biomtricos implican una sobrevigilancia hacia esos grupos. No se sabe cmo son utilizados, agregados y compartidos los datos recolectados de esos grupos, ni parece proporcional exigir un nivel tan alto de informacin para la entrega de beneficios limitados o condicionados. En el caso venezolano las bases de datos biomtricas provienen del sistema electoral, para ser utilizadas tanto por operadores estatales -incluyendo funcionarios de migracin y policas- como por cajeros de supermercados y farmacias, sin ningn tipo de requisito legal previo. En So Paulo, el gobierno municipal lleg a anunciar la venta de las bases de datos de las tarjetas utilizadas en el transporte pero, bajo presin pblica y despus de la aprobacin de una ley de proteccin de datos en Brasil, cambi su posicin.

No est dems reiterar que solamente se someten a esos sistemas a los usuarios de sistemas pblicos de salud, asistencia social y transporte que, en general, no incluyen las lites locales que pueden prescindir de ellos y recurrir a prestadores privados; manteniendo mayor control sobre su informacin y preservando su privacidad.

Desigualdad, discriminacin y pobreza

Que los mecanismos de vigilancia sean implementados de manera diferencial hacia los grupos ms vulnerables no es novedad, esto remonta a procesos de control social y precarizacin que han estado en la base de la construccin de muchas de nuestras sociedades para asegurar tanto la dominancia de las clases sociales y econmicas ms privilegiadas como la explotacin de los ms vulnerables. An hoy, con las posibilidades ofrecidas por las tecnologas para optimizar la entrega de servicios de toda clase, vemos que esas tecnologas son usadas para mantener esa estructura social desigual. Con asistencia de la tecnologa, la vulnerabilidad es castigada con vigilancia.

No tiene por qu ser as. La promesa de la tecnologa es la mejora de nuestras vidas. Esa promesa debera ser transversal a toda la sociedad y no estar reservada para aquellas personas que puedan costear las mejoras, o que puedan pagar el precio de no tener que someterse a aplicaciones abusivas de la tecnologa. Estos desarrollos y despliegues tecnolgicos no deberan resultar en una nueva forma de discriminacin que profundice otras desigualdades como un dao colateral que debemos asumir en favor de un supuesto bien mayoritario.

Una aproximacin de derechos fundamentales con una comprensin interseccional de los distintos tipos de exclusiones que las tecnologas promueven y clausuran es la nica manera de hacer frente a la desigualdad a la que millones de personas estn siendo sometidas en el continente. Solo as, las nuevas tecnologas quizs puedan convertirse en un factor que ayude al cierre de las brechas que enfrentamos ahora.

Fuente: https://www.derechosdigitales.org/13900/vigilancia-control-social-e-inequidad/



Envía esta noticia
Compartir esta noticia: delicious  digg  meneame twitter