COVID-19: Los riesgos de confiar en la tecnología para “salvarnos” del coronavirus

Por Ray Acheson (Directora de Reaching Critical Will, programa de desarme de WILPF – Women’s International League for Peace and Freedom).

Traducción de María Pagano (WILPF Argentina)

A medida que el COVID-19 continúa extendiéndose por todo el mundo y a medida que aumenta el número de víctimas mortales en muchos países, algunos gobiernos están buscando tecnología para ayudar a aplanar la curva de infección, ayudar a distribuir bienes o realizar otras tareas que actualmente pueden poner en peligro la vida humana. Esto podría verse como positivo. ¿Quién no quiere reducir el potencial de exposición? Pero a medida que se expande la dependencia de tecnologías potencialmente invasivas, debemos prestar atención a las medidas que se están implementando “para nuestro beneficio” ahora, qué tecnologías se están desarrollando y desplegando y qué otras funciones han cumplido o podrían cumplir, y qué sucede con ellos después de que esta crisis haya terminado.

También debemos pensar en el uso de estas tecnologías y las justificaciones para ellas, en el contexto del militarismo y la economía política, para comprender completamente quién se beneficiará y quién sufrirá. Necesitamos considerar el potencial para el armamento de algunas de estas tecnologías, o cómo se puede usar para reprimir y oprimir a los pueblos. Y tenemos que pensar qué acciones podemos tomar ahora para prevenir el futuro distópico que de otro modo nos espera.

¿Tecnología al rescate?

Varias organizaciones, incluidas MediaNama, Privacy International y Project Ploughhares, han estado documentando y mapeando la difusión de tecnologías intrusivas y vigilancia durante el brote de COVID-19. Algunos gobiernos, incluidos China, Ecuador, Alemania, India, Israel, Italia, Polonia, Corea del Sur, Taiwán y Tailandia, están utilizando el GPS a través de teléfonos móviles para rastrear a las personas para imponer cuarentenas o participar en “rastreo de contactos digitales” para saber dónde podrían haber propagado el virus. Israel está haciendo esto retroactivamente, utilizando datos históricos para rastrear los movimientos de las personas en las últimas semanas. Corea del Sur ha combinado su monitoreo de datos de teléfonos móviles con imágenes de vigilancia y compras con tarjeta de crédito para rastrear el camino de la infección. En Hong Kong, a partir del 19 de marzo, todos los que lleguen recibirán una pulsera electrónica para garantizar que cumplan con la cuarentena obligatoria de dos semanas. Algunos gobiernos están trabajando con corporaciones para desarrollar nuevas aplicaciones como TraceTogether en Singapur, Home Quarantine en Polonia y la aplicación de la Universidad de Oxford para el Servicio Nacional de Salud en el Reino Unido.

Otros gobiernos están utilizando drones para una variedad de funciones. China los está utilizando para rociar desinfectante en áreas públicas y para transportar equipos médicos y suministros de cuarentena. Otros países, desde Honduras hasta España, han comenzado a usar drones para desinfectar espacios públicos. También se están desplegando robots en China para entregar suministros médicos dentro de los hospitales y desinfectar habitaciones. También se han utilizado para completar pedidos en almacenes y proporcionar “entrega sin contacto”. Yendo mucho más lejos, Bélgica, China, Francia, India, Israel, Italia, Jordania, Kuwait, España, Emiratos Árabes Unidos, Reino Unido y otros han desplegado drones para restringir los movimientos de los ciudadanos. Algunos departamentos de policía en los Estados Unidos están considerando hacer lo mismo. La compañía estadounidense Draganfly ha desarrollado “drones pandémicos” para detectar y monitorear personas mediante el uso de sensores para determinar de manera remota la temperatura, la tos, los estornudos y las frecuencias cardíacas y respiratorias. Según se informa, estos drones se desplegarán en Australia en algún momento. Arabia Saudita ya ha desplegado drones para medir la temperatura corporal de las personas.

¿Pero cuáles son los riesgos?

Si bien el despliegue de tecnología de vigilancia, drones y robots puede verse en esta crisis como necesario o útil, debemos preguntarnos si realmente lo es. Como ha señalado Edward Snowden, en algunos países se nos dice que nuestra elección es entre la vigilancia masiva o la propagación completamente incontrolada del virus. Pero, argumenta, esta es una elección falsa. Hay alternativas que serían voluntarias y limitadas, solo necesitamos la oportunidad de desarrollar esas alternativas en lugar de que nos digan que la única forma de salvar vidas es aceptar violaciones de nuestros derechos y un monitoreo constante por parte de las empresas tecnológicas y los gobiernos.

También tenemos que preguntar, ¿qué sucederá después de que termine la crisis? Algunos de los mecanismos actualmente en uso ya violan las leyes sobre privacidad de la información personal de salud; en torno de vigilancia, monitoreo y rastreo de civiles; y en torno a las leyes de privacidad para la recopilación y el intercambio de datos entre el usuario, la empresa y el gobierno. Incluso si las personas están dispuestas a pasar por alto esto durante el brote de COVID-19 en aras de proteger la salud pública, existe el riesgo de que la información transferida durante la crisis se conserve y utilice de otras maneras más adelante.

También existe el riesgo de que las expectativas en torno a compartir este tipo de información puedan cambiar como resultado de la crisis, y nuestra capacidad o interés para resistir las infracciones corporativas o gubernamentales sobre nuestra privacidad puede reducirse con el tiempo. Más de 100 organizaciones de la sociedad civil firmaron una declaración conjunta advirtiendo contra estos riesgos, señalando que una vez que se expande el aparato de vigilancia estatal, es muy difícil desmantelarlo. Al igual que se normalizaron los soldados armados en las estaciones de tren de Estados Unidos después del 11 de septiembre. Una vez que la vigilancia y la violencia militarizada se introducen en nuestra vida cotidiana, se convierten en una parte normal de nuestro paisaje.

El auge del panóptico digital

Mucho antes de que estallara el COVID-19, las peleas en torno a la vigilancia, desde el uso de software de reconocimiento facial hasta algoritmos de vigilancia predictivos, ya se estaban desplegando. Varias ciudades de todo el mundo han prohibido el reconocimiento facial, entendiendo que esta tecnología viola las leyes de privacidad, tiene fallas tecnológicas y está programada con prejuicios raciales, de género y otras formas de prejuicios humanos. Pero en otros lugares, el uso del reconocimiento facial y la inteligencia artificial se está generalizando para monitorear y controlar el pueblo. En Xinjiang, China, los uigures viven bajo vigilancia masiva. Marsella, Francia, ha estado experimentando con una combinación de inteligencia artificial, datos de ciudadanos y redes de vigilancia del gobierno para llevar a cabo actividades policiales preventivas y ayudar en las investigaciones policiales.

La proliferación de drones en todo el mundo también llevó a su uso doméstico por parte de la policía. Con el mayor despliegue de drones durante la crisis de COVID-19, existe el riesgo de que esto se normalice. La policía puede usar drones para seguir vigilando a la población o dispersar a las multitudes más tarde, después de que esta crisis haya terminado, en violación de nuestro derecho de reunión.

En aras de evitar grandes reuniones de personas, algunos gobiernos han prohibido marchas, manifestaciones y protestas. Según el derecho internacional respecto a derechos humanos, dadas las circunstancias existentes y el asesoramiento científico sobre el distanciamiento social, estas acciones son justificables, siempre que sean proporcionadas y temporales. Pero los expertos en Derechos Humanos de la ONU han instado a los Estados “a evitar el incumplimiento de las medidas de seguridad en su respuesta al brote de coronavirus y les han recordado que los poderes de emergencia no deben usarse para aplastar la disidencia”. En este momento, los drones se están utilizando para hacer cumplir estas medidas. ¿Qué pasará con estas ordenanzas y declaraciones una vez que la crisis ha terminado? ¿Y qué sucederá con la tecnología que se está implementando ahora para hacerlas cumplir?

Muchas ciudades, parques y otros espacios públicos, a lo largo de los años, no han aprobado legislación alguna sobre zonas de vuelo en relación con los drones. Estos pueden ser relajados o incluso descartados después de la crisis, ya que se da el caso de que el uso de drones para la vigilancia pública es “útil”. Incluso en medio de la crisis, la ciudad de Baltimore en los Estados Unidos aprobó el uso de “aviones de vigilancia” para realizar un monitoreo persistente de la ciudad con el pretexto de ayudar a las investigaciones de crímenes violentos, no directamente relacionados con detener la propagación de COVID -19, pero sin duda aprovechando el momento de distracción en toda la ciudad para aprobar esta controvertida legislación.

Armando estas tecnologías

Más allá de los riesgos inmediatos de la represión de los derechos y la normalización del panóptico digital, también existe el peligro de que estas tecnologías sean armadas.

Si los drones de vigilancia se normalizan en nuestras sociedades, ¿significa que el despliegue de drones armados por parte de la policía y las fuerzas gubernamentales no estará pronto sobre la mesa? Drones armados ya están desplegados por muchos de nuestros gobiernos en todo el mundo, utilizados para matar extrajudicialmente y con impunidad. Sus paquetes de vigilancia se utilizan para crear perfiles de objetivos de seres humanos, que luego son operados por drones armados. Esto ha resultado en un número increíblemente alto de muertes de civiles y ha violado el derecho internacional humanitario y de derechos humanos en términos de ataques, uso de la fuerza y protección de civiles.

Los robots están a punto de convertirse en armas. Y estos robots pueden programarse con paquetes de vigilancia: seguimiento de movimientos mediante la recopilación y análisis de datos; utilizando software de reconocimiento facial para crear perfiles de objetivos, etc. La Campaña para detener a los robots asesinos ha estado instando durante varios años a que los gobiernos trabajen para evitar el desarrollo de sistemas de armas autónomos antes de que sea demasiado tarde.

Ya se han implementado o se están desarrollando más de 380 sistemas de armas parcialmente autónomos en al menos 12 países, incluidos China, Francia, Israel, Corea del Sur, Rusia, el Reino Unido y los Estados Unidos. Las principales compañías tecnológicas como Microsoft y Google han recibido el encargo de crear o adaptar tecnologías para uso militar, como los auriculares HoloLens de Microsoft que los soldados están usando “para detectar, decidir e involucrarse ante el enemigo” o su contrato de computación en la nube JEDI con el Pentágono que implican el desarrollo y la ejecución de aplicaciones que forman parte de la cadena de eliminación de drones.

Si esta tendencia continúa sin restricciones, los humanos eventualmente quedarán excluidos de la toma de decisiones cruciales sobre el uso de la fuerza y ​​sobre el control de los sistemas de armas. Existe un grave riesgo de que las herramientas utilizadas ahora para la vigilancia masiva, el control de poblaciones o la dispersión de bienes ahora puedan ser armadas en el futuro. Podemos ser rastreados y monitoreados durante el brote de COVID-19, pero estas mismas tecnologías pueden usarse para matarnos más tarde.

Los riesgos de las armas autónomas

Muchos roboticistas, científicos, trabajadores tecnológicos, filósofos, especialistas en ética, especialistas en derecho, defensores de los derechos humanos y activistas por la paz y el desarme han expresado su preocupación de que las armas autónomas no podrán cumplir con el derecho internacional humanitario o los derechos humanos, y que hará más probable la guerra o el uso de la fuerza, alentará una carrera armamentista, desestabilizará las relaciones internacionales y tendrá consecuencias morales como socavar la dignidad humana.

Los algoritmos crearían una máquina de matar perfecta, despojada de la empatía, la conciencia o la emoción que podrían detener a un soldado humano. Los robots programados para matar también podrían matar accidentalmente a civiles malinterpretando los datos. Les faltaría el juicio humano necesario para evaluar la proporcionalidad de un ataque, distinguir a los civiles de los combatientes y cumplir con otros principios básicos de las leyes de la guerra. También serían susceptibles a realizar ataques cibernéticos y piratería. Serían ellos (los robots) los responsables de sus errores o mal uso.

Las armas autónomas serán armas de poder e inequidad: los países del sur global pueden no ser los que desarrollen y usen robots asesinos, pero probablemente se convertirán en los campos de batalla para la prueba y el despliegue de estas armas. Serán los países ricos quienes usen estas armas contra los pobres, y los ricos dentro de los países que la usen contra sus propios pobres, a través de la vigilancia y la opresión interna.

La construcción de objetivos con perfiles de personas reducirá a los seres humanos a 1 y 0, dirigidos a su identidad sexual o de género, su raza u origen étnico, su vestimenta religiosa, su discapacidad u otros marcadores físicos que la máquina determina como “correctos” para matar . Esto exacerbará el perfil racial en la vigilancia, la vigilancia fronteriza y otras actividades; resultará en violencia de género y racial.

La economía política de la represión y la violencia.

Los sistemas de armas autónomos son parte de un continuo de militarismo y capitalismo. Las inversiones en nuevas tecnologías de violencia y vigilancia, en particular en un momento en que resulta sorprendente que garantizar la seguridad real recae en las inversiones en atención médica y en ingresos y vivienda garantizados, son parte del culto capitalista a la muerte. Los gobiernos y las corporaciones están invirtiendo dinero en el desarrollo de máquinas de matar y tecnologías de vigilancia más eficientes, mientras que desinvierten activamente de la infraestructura que apoya el bienestar social.

Nuestras sociedades no pueden ni deben permitir más gastos en tecnología militar y militarizada. En lugar de buscar nuevas formas para que los gastos militares crezcan y se desarrollen, necesitamos desmilitarizar y redirigir urgentemente ese gasto.

También debemos desafiar la mentalidad capitalista que impulsa las políticas económicas neoliberales y el militarismo. Ambos se basan en ideas de “eficiencia” y de “no interferencia”. Es decir, el neoliberalismo pretende que los Estados no deberían “interferir” en la economía (a menos que sea para rescatar a las grandes corporaciones, por supuesto) porque los humanos tomarán las decisiones más racionales; mientras que el militarismo detrás de las armas autónomas afirma que los humanos deberían ser eliminados de la toma de decisiones y las ejecuciones violentas porque la inteligencia artificial o los algoritmos son capaces de tomar decisiones más racionales.

La búsqueda de armas autónomas también refleja la búsqueda capitalista de ganancias y las desigualdades que crea este sistema de perpetuo “crecimiento” económico. ¿Quién tiene acceso y medios para producir armas autónomas? ¿Qué países y qué personas dentro de esos países? ¿Quién toma la decisión de desarrollar estas armas (es decir, la élite política y militar) y quién se ve obligado a ser cómplice en la creación y el uso de tecnologías de opresión y violencia (es decir, trabajadores tecnológicos y soldados)? ¿De quién será la mano de obra utilizada para la extracción de los minerales y recursos necesarios para construir estas tecnologías? ¿Quién estará en el lado receptor de la violencia y la opresión perpetrada mediante el uso de armas autónomas? ¿Qué proyectos políticos se promulgarán mediante su uso?, es decir ¿reprimir la protesta y la disidencia, asesinar a disidentes, atacar “categorías” enteras de seres humanos basándose en el perfil de características e identidades particulares?

Estas son preguntas críticas no solo para las armas autónomas, por supuesto, sino para todas las respuestas al coronavirus y para el desarrollo y despliegue de tecnologías de vigilancia y sistemas de armas. En particular, debe terminar el giro reflexivo hacia el militarismo como la solución más apropiada o incluso la única para las crisis. Debemos terminarlo.

Invertir en bienestar

Prohibir las armas autónomas es un buen paso para frenar el daño potencial de algunas de las tecnologías discutidas aquí. Pero como dice el ex empleado de Google Amr Gaber, necesitamos hacer más para asegurarnos de que la tecnología permanezca al servicio de los derechos humanos, no de la represión y la violencia.

Necesitamos detener la propagación del panóptico digital a través de la vigilancia, el reconocimiento facial, el uso de algoritmos para vigilancia y detención, etc. Necesitamos mantener o desarrollar prohibiciones sobre el despliegue y uso de drones para vigilancia y violencia.

Necesitamos prohibir los sistemas de armas autónomos y prevenir otras tecnologías que buscarán automatizar la violencia. Y necesitamos desviar nuestros recursos, humanos, materiales y económicos, lejos del militarismo y hacia las cosas que realmente nos mantienen seguros y bien, juntos.

Cuando dejó el cargo, el ex Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Zeid Ra’ad Al Hussein, criticó a los “políticos insensatos” por ser “demasiado débiles para privilegiar vidas humanas, dignidad humana, tolerancia y, en última instancia, seguridad global, por el precio de los hidrocarburos y la firma de contratos de defensa “. En muchos países, en este momento seguimos presenciando “esos políticos peligrosos o inútiles … amenazan a la humanidad”.

Pero tenemos fuerza en nuestra acción colectiva. El valor y el desafío son donde radica el cambio. Y nuestras acciones ahora para preservar los derechos humanos y la dignidad humana y para evitar una mayor abstracción de la violencia y la guerra serán imprescindibles para nuestra supervivencia más adelante.

Posts recomendados

Deja un comentario