El algoritmo te vigila

Madrid

Vivimos una cuarta revolución industrial liderada por los datos y por la inteligencia artificial, que es ya una realidad en muchos ámbitos de nuestra vida. También en el campo del control social, de los sistemas de vigilancia que utilizan los Estados para mantener el orden público.

La serie Black Mirror nos mostró una sociedad en la que la gente puntuaba la popularidad de los demás, una puntuación que te abría o cerraba puertas según tu nota. Aquello era una serie, era ficción. Pero a partir de 2020 China va a aplicar un sistema de control sobre toda su población: un programa de crédito social, que va por puntos y que determinará quién es buen ciudadano, y por eso merece ventajas, y quién pierde derechos si tiene una mala puntuación.

El algoritmo, con un funcionamiento bastante opaco, analiza actitudes muy variadas: gritar en el metro, tirar una colilla al suelo o la difusión de noticias falsas es castigado, mientras que elogiar al partido del gobierno o donar sangre sube nota.

El sistema de crédito social es el último paso en torno a una tecnología, la del reconocimiento facial, que está ya muy extendida en China, país en el que viven 1.400 millones de personas. Detrás de las utilidades que ofrece esa técnica, lo que hay es un sistema que permite al gobierno controlar en todo momento qué hacen los ciudadanos. La seguridad es el gran pilar y el lema es: si no tienes nada que ocultar, no tienes nada que temer.

Pero China no es el único país que aplica estos mecanismos de control social.  Según un reciente informe del Fondo Carnegie para la Paz Internacional, al menos 75 países utilizan inteligencia artificial para seguir y vigilar a sus ciudadanos, como Estados Unidos, Rusia, Alemania o Reino Unido. 

Únete al canal de WhatsApp de la SER

Junto a todos estos mecanismos, otra forma de control que están adoptando algunos gobiernos es cortar el acceso a internet para dificultar las protestas masivas. Estos apagones para acallar a los movimientos sociales no han parado de crecer en los últimos años. 

Analizamos en profundidad todos estos sistemas de control social, y las dudas que genera su aplicación, con Lucía Velasco, economista especializada en tecnología e innovación social, y Ekaitz Cancela, periodista y autor del libro Despertar del sueño tecnológico.