IMAGE: Peter Lomas - CC0 Creative CommonsCon la rápida mejora de la tecnología de cámaras, del ancho de banda disponible para la transmisión y, sobre todo, de los algoritmos de reconocimiento de imágenes, la presencia de cámaras en todos los rincones de las ciudades se está normalizando cada vez más: combinada con los satélites y con las señales de los smartphones que llevamos en todo momento en el bolsillo, convierten el entorno en que vivimos en un escenario de vigilancia permanente.

Lo que inicialmente fue un modo de vigilar lugares concretos en los que podía cometerse delitos de manera recurrente, como bancos, hoy ha evolucionado para convertirse en enormes redes de vigilancia coordinada capaces de controlar la totalidad de nuestro recorrido por la ciudad, incluyendo cámaras en fachadas de domicilios particulares dotadas de algoritmos capaces de diferenciar personas de animales o cosas, o identificar caras concretas.

La tendencia, sin duda, puede observarse en su plenitud en muchas ciudades en China, convertida en el auténtico estado de la vigilancia total: más de 170 millones de cámaras exteriores están ya en uso, y se calcula que 400 millones más van a ser instaladas a lo largo de los próximos tres años, unidas a sistemas de cámaras portátiles en gafas utilizadas por la policía capaces de identificar a las personas que tengan delante. Obviamente, el control de semejante cantidad de cámaras no puede ser llevado a cabo manualmente, sino utilizando algoritmos capaces de reconocer personas y practicar seguimientos en función de criterios establecidos, algoritmos que se desarrollan para todo tipo de funciones como el control de las operaciones de una tienda, pero que terminan siendo ofrecidos a la policía.

¿Nos asusta la popularización y difusión de perspectivas como la de China? La evolución de China no termina en sus calles: la vigilancia se está adentrando ya en las escuelas, en las que las cámaras vigilan la actitud de los estudiantes, su nivel de atención o sus movimientos durante las clases, y llega incluso, en algunos casos como los militares, las cadenas de montaje o los conductores de trenes, a la monitorización de su actividad cerebral. La vigilancia constante, completamente normalizada y convertida en una característica de la vida de los ciudadanos, obligados a aceptar que están siendo observados en cada uno de los momentos de sus vidas, por algoritmos que capturan no solo sus desplazamientos, sino las personas con las que hablan o con las que se ven habitualmente. Algoritmos capaces de reconocer una pelea, un abrazo, un gesto, que unidos a los sistemas de calificación social, dan lugar a un sistema capaz de clasificar a los ciudadanos en función de su afinidad política, o incluso capaz de aislar a potenciales disidentes haciendo que el crédito social de aquellas personas con las que hablan descienda por el hecho de relacionarse con ellas.

Pero esa China convertida en escaparate de tendencias no es el único escenario de la vigilancia: en Newark, las cámaras instaladas en toda la ciudad ya no solo son utilizadas por la policía, sino que ha sido abiertas a cualquiera con una conexión a la red. Cualquiera puede conectarse y utilizar esas cámaras para controlar una zona, a una persona, o simplemente para curiosear, ver el tráfico o el ambiente. Un movimiento planteado para incrementar la transparencia, pero que ha generado alarmas por su posible uso por parte de acosadores o incluso ladrones, capaces ahora de controlar la actividad en una vivienda determinada desde la comodidad de sus casas. Países democráticos como el Reino Unido manifiestan también tendencias hacia el control total y dictan leyes de vigilancia extrema con la oposición de Naciones Unidas, de grupos de defensa de los derechos ciudadanos y activistas de la privacidad y de empresas tecnológicas, leyes que son posteriormente declaradas parcialmente ilegales, pero que claramente marcan una tendencia. En Barcelona, un movimiento encabezado desde el ayuntamiento pretende tomar control de los datos generados por las infraestructuras de la ciudad y pasar “de un modelo de capitalismo de vigilancia, donde los datos son opacos y no transparentes, a otro en el que los propios ciudadanos puedan tomar posesión de sus datos”, algo que afecta a la explotación de los datos de consumos, contaminación, ruido, etc., pero excluye el uso por motivos de seguridad o vigilancia.

Otro modelo relacionado con el uso de los datos es el de compañías privadas como la Palantir de Peter Thiel, capaces de acceder a enormes cantidades de datos y construir detalladísimos perfiles a partir de comportamientos tanto online como offline, o sospechosos habitualmente mencionados como Facebook, sobre cuyas actividades se han escrito infinidad de artículos. Frente a modelos distópicos como el de China o enfocados en la vigilancia obsesiva, como los que están surgiendo en países como Suecia derivados de las posibles amenazas terroristas, surgen grupos de asociaciones activistas generalmente norteamericanas como ACLU o la EFF, con campañas que intentan concienciar a la población sobre los excesos de una vigilancia o trazar estrategias para desmantelarla, o para convencer a una ciudadanía preocupada por su seguridad de que la vigilancia masiva no funciona ni funcionará nunca como arma para combatir el terrorismo.  Simplemente unas pocas asociaciones civiles, que obtienen sus fondos a través de campañas de donaciones públicas, contra una tendencia masiva a nivel internacional que llena de cámaras nuestras ciudades y utiliza algoritmos para reconocernos, seguir nuestros hábitos, ver por dónde nos movemos y qué hacemos habitualmente en nuestro día a día. Entender que la idea de “si no tengo nada que ocultar, no tengo nada que temer” es errónea, y debe ser sustituida en el imaginario colectivo por ideas más progresistas, más lógicas y que toleren el activismo, la voluntad de cambio o la protesta pacífica.

¿Es la transición hacia una sociedad en permanente vigilancia una transición inevitable? ¿Nos dirigimos indefectiblemente hacia un modelo orwelliano, hacia escenarios distópicos en los que todo lo que hacemos, todas nuestras actividades están permanentemente monitorizadas? ¿Dependemos únicamente de unas pocas asociaciones civiles para intentar detener esta evolución? ¿Estamos obligados a imaginar la sociedad del futuro como un escenario en el que todo lo que hagamos sea constante objeto de vigilancia? ¿Hay alternativas?

 

IMAGE: Mykhaylo Palinchak - 123RFMi columna en El Español de esta semana se titula “El error de Theresa May” (pdf), y habla sobre la dirigente conservadora británica que acaba de ver esta noche cómo su adelanto electoral se traducía en una pérdida clara de votos y escaños que resulta en una situación de “parlamento colgado“, y sobre su trasnochada visión con respecto a la seguridad.

Hay muchos dirigentes políticos que pretenden adoptar una posición dura con respecto al terrorismo. Ese tipo de posiciones son habitualmente jaleadas por unos seguidores que buscan algún tipo de “magia”, de solución a sus problemas de inseguridad ciudadana, de actitud de “hermano mayor que te protege”. El problema es que ese tipo de soluciones duras, por mucho que algunos puedan pensar, no siempre son necesariamente las más acertadas. Cuando además, esas supuestas medidas duras se convierten en una manifiesta pérdida de derechos de los ciudadanos, la cuestión se vuelve todavía más compleja, porque era precisamente esa pérdida de derechos, esa situación de privación de libertades básicas y esa erosión de los derechos humanos lo que los terroristas pretendían conseguir. Si, para terminar de estropear el tema, algunas de esas medidas no sirven para nada y revelan un desconocimiento total del funcionamiento de la red, la cosa termina por prácticamente descalificar a un político. O debería.

Theresa May reaccionó al último atentado en el puente de Londres con un enough is enough y unas declaraciones en las que afirmaba que “si las leyes de protección de los derechos humanos interferían en el control del terrorismo, las cambiaría“. Unas declaraciones en tono duro que pretendía que sirviesen para elevar su popularidad, en la línea de otros tantos políticos británicos conocidos por adoptar posiciones duras en momentos difíciles. Sin embargo, las ideas de Theresa May tienen un problema: el primero y más evidente, que las cosas no terminan cuando la política de turno dice “enough is enough”, sino cuando se buscan soluciones genuinas y reales a los problemas. Es muy posible que el problema actual no tenga una solución clara, o incluso que se esté planteando en esos términos por vez primera en la historia, pero lo que decididamente no va a solucionarlo es el enésimo intento de incrementar la vigilancia y el control en la red.

Nunca en la historia hemos vivido un momento en el que las estrategias de los terroristas experimentasen una disminución tan brutal de las barreras de entrada. Las necesidades de comunicación y coordinación para llevar a cabo un atentado terrorista hoy son absolutamente mínimas: la acción puede llevarse a cabo con un simple vehículo alquilado o robado, con un cuchillo de cocina o hasta con un martillo. Esta estrategia de “terrorismo low cost” convierte en inútiles muchas de las estrategias de control utilizadas hasta el momento, y decididamente, hace que cualquier idea de vigilancia sobre aquellos que tienen en su casa un cuchillo de cocina o un martillo sean directamente ridículas, porque todos tenemos uno y sabemos, eventualmente, como utilizarlo. No es preciso entrenamiento ni coordinación alguna para empotrar un coche contra una multitud o para liarse a martillazos con un policía, y tratar de ejercer un control sobre ello sería directamente absurdo, además de, en caso de intentarse, suponer una pérdida injustificada de libertades para todos los ciudadanos.

Con la red pasa absolutamente lo mismo: pretender controlar lo que circula por la red o exigir puertas traseras a las aplicaciones de comunicación es directamente estúpido, algo que solo se le ocurriría a quienes no entienden la red. Simplemente, no sirve para nada, y en cambio, genera una erosión completamente inaceptable en las libertades y derechos de los ciudadanos. No sirve para nada, en primer lugar porque la variedad de herramientas y métodos de comunicación cifrados de manera inaccesible a disposición de los terroristas es ilimitado, y en segundo, porque realmente, para la comunicación que necesitan de cara a la preparación de un atentado, podrían llevarla a cabo mediante soluciones de tan baja tecnología como palomas mensajeras o señales de humo. Mientras May y los suyos se dedican a presionar a las compañías tecnológicas para que les entreguen puertas traseras que debilitan la seguridad de sus productos y que acabarían inexorablemente en manos de delincuentes, los terroristas seguirían comunicándose mediante una llamada de teléfono, un grito o una piedra lanzada a una ventana. La idea de “controlar internet para prevenir el terrorismo” no tiene sentido, y revela, además, un nivel de ignorancia brutal. Y como bien decía el gran y tristemente fallecido Aaron Swartz, “ya no es adecuado no entender cómo funciona internet”: la disculpa de que esas tecnologías no existían cuando tú naciste o estudiaste ya no funciona, no te excusa de nada. Si eres político, tienes que entender que internet se ha convertido en un elemento central de la vida que no puedes permitirte ir por el mundo tomando decisiones sin entender cómo funciona, porque eso te convierte, como mínimo, en un peligro. O en un idiota, como aquel patético infantilismo de Donald Trump que pretendía “llamar a Bill Gates para que cerrase internet“. No, con esos mimbres no se puede hacer ningún cesto. 

Theresa May y todos esos políticos que no entienden la red son parte de una generación trasnochada de dirigentes que deberían pensar en jubilarse o en dedicarse a otra cosa con menores niveles de responsabilidad sobre la vida de los ciudadanos. O, por qué no, en estudiar un poco y aprender, que no es tan complicado ni tan implanteable, muchos directivos de edades similares a la de Theresa May lo hacen constantemente. La solución al terrorismo podrá venir de muchos sitios, pero jamás vendrá de un incremento en el control de la red. Eso solo sirve para vigilarnos a los que no somos terroristas. Con esas estrategias, el terror siempre gana.

 

Remotec Andros robotEn la imagen, un robot Remotec de la serie Andros fabricado por Northrop Grumman, habitualmente utilizado para la desactivación remota de artefactos explosivos. Con un coste aproximado de unos $200,000, era uno de los tres que la policía de Dallas había adquirido recientemente, con el fin de incrementar su nivel de preparación ante posibles atentados terroristas con bombas.

Pero ayer viernes, el robot fue utilizado no para desactivar una bomba, sino precisamente para lo contrario: para enviar y detonar un artefacto, presumiblemente uno de los que habitualmente se utilizan para provocar la explosión controlada de otro mayor, en el lugar donde se hallaba Micah Xavier Johnson, uno de los francotiradores que acabó con la vida de varias personas durante una manifestación pacífica en Dallas.

La decisión, posiblemente acertada ante una persona con entrenamiento militar y equipamiento desconocido que era susceptible de provocar bastantes más bajas, no está exenta de polémica, y ha sido considerada por algunos como el inicio de la era de Robocop.

En realidad, el uso de robots semiautónomos para matar personas cuenta ya con una amplia tradición militar: la “guerra de los drones” desencadenada por la administración Obama en países como Pakistan, Yemen o Somalia, con los que los Estados Unidos no están oficialmente en guerra, pero que sirven de refugio a un enemigo, Al-Qaeda, que carece de un territorio como tal, ha provocado ya la muerte de varios miles de personas, incluyendo presuntamente 1,270 civiles considerados como errores y algunos casos especialmente sonados, como rehenes a los que se intentaba rescatar.

En el uso policial, sin embargo, el empleo consciente de un robot con una bomba para matar a un delincuente carece de precedentes, y permite imaginar una amplia gama de posibilidades ayer probablemente descartadas por la premura del momento, como el uso de otras técnicas: montar sobre el robot un cañón de agua, una pistola eléctrica tipo Taser o algún agente químico incapacitante. El robot utilizado ayer, como los drones militares, estaba siendo manejado por un humano mediante control remoto, pero los hechos comienzan a acercarnos bastante a la posibilidad de emplear robots autónomos y dotados de inteligencia artificial en conflictos armados, una posibilidad sobre la que ya mostraron alarma personas como Elon Musk, Steve Wozniak o Stephen Hawking y que reclama el desarrollo de unos principios éticos adecuados.

Es posible que el uso de robots por parte de las fuerzas policiales para dar salida a situaciones complicadas pueda tener sentido. Pero si ese va a ser el caso, habrá que asumir que ese tipo de situaciones pueden convertirse en relativa y tristemente habituales, y deberán no solo procedimentarse adecuadamente, sino además diseñar esas máquinas de manera que no solo se priorice evitar el posible peligro para agentes y ciudadanos, sino también el minimizar los desenlaces letales en todos los sentidos.

 

IMAGE: Andrea Danti - 123RF

Una tendencia preocupante en los Estados Unidos que sin duda comenzaremos a ver en no mucho tiempo en otros países: la instalación de sistemas de grabación de audio en espacios públicos y medios de transporte colectivos como autobuses, trenes y metros en los que se busca capturar evidencias de actividades terroristas o delictivas.  La iniciativa supone una extension de las ya habituales cámaras de vigilancia que tapizan casi de manera completa algunas ciudades, de manera que sean capaces de capturar mediante los dispositivos adecuados toda una dimensión adicional de la actividad de los ciudadanos: sus conversaciones.

El Senado del estado de Maryland, por ejemplo, acaba de legislar limitaciones a estos programas de grabación de conversaciones, que hasta el momento se estaban desarrollando de manera completamente indiscriminada como es el caso en otros estados. Tras la promulgación de la ley, las escuchas solo pueden ser llevadas a cabo en la zona próxima al conductor, cuando el conductor active el sistema ante un incidente, o por activación automática tras un frenazo brusco o un impacto, además de imponer límites a la posible difusión de las conversaciones recogidas. En este estado, las actividades de grabación venían desarrollándose desde el año 2012 sin ningún tipo de restricción, y en la actualidad, el 65% de los autobuses y el 82% de los vagones de metro poseían la infraestructura para llevarlas a cabo, aunque en muchos casos no estaba en uso.

La idea se asemeja enormemente a los escenarios distópicos recogidos en esa gran novela de George Orwell escrita en 1949 que cada día parece más premonitoria, 1984, en la que el protagonista, Winston Smith, solo contaba con un pequeño rincón en su casa que quedaba fuera del ángulo cubierto por las cámaras y en el que podía aspirar a que, si susurraba de manera muy tenue, no le captasen los micrófonos colocados estratégicamente por el estado. Unos micrófonos cuyo poder no solo está en la capacidad de grabar, sino también el que el ciudadano sepa que existen y no sea capaz de saber cuándo están o no están en uso, dando lugar a una sensación de vigilancia permanente y ubicua.

Las legislaciones restrictivas de este tipo de actividades de vigilancia o la cancelación completa de las mismas está teniendo lugar únicamente en aquellos estados en los que surge un activismo ciudadano o protestas reclamando su control. En aquellos estados donde no son controladas, las autoridades saben que cuentan con la posibilidad de reclamar, además de las ya habituales grabaciones de cámaras de seguridad, las grabaciones de audio de momentos concretos en los que un sospechoso pudiese estar utilizando el espacio público.

La próxima vez que subas a un medio de transporte público y vayas hablando con alguien, plantéate lo que podría ser que, del mismo modo que hemos ya pasado a considerar las cámaras de grabación de vídeo como una parte habitual del paisaje, comencemos a aceptar como normal que las paredes tengan oídos y nuestras conversaciones estén siendo grabadas de manera sistemática como parte de un programa que pretende incrementar nuestra seguridad. Simplemente plantéatelo, a ver cómo te sientes. ¿Pronto, en un vagón o autobús cercano?…

 

 

DHS logoEl Department of Homeland Security (DHS) de los Estados Unidos, equivalente aproximado del Ministerio del Interior y responsable, entre otras muchas cuestiones, del tránsito a través de las fronteras del país, se plantea exigir a los millones de visitantes que cada año intentan entrar en el país como turistas que proporcionen información sobre sus identidades en la red: páginas web de las que son editores o autores, cuentas en redes sociales, etc.

El documento, abierto a comentarios públicos hasta el próximo día 22 de agosto, pretende que tanto en el Sistema Electrónico para la Autorización de Viajes (ESTA) como en el famoso formulario I-94W que es rellenado a bordo de los aviones (sí, ese que nos pregunta, entre otras cosas, si estamos entrando en el país con el propósito de llevar a cabo actividades ilegales o inmorales), se soliciten datos opcionales acerca de la presencia en la red de los solicitantes de entrada, con el fin de que permita llevar a cabo un estudio más detallado del proceso de admisión en el país y añada más posibilidades de contacto. La idea se plasmaría con una pregunta adicional voluntaria,

“Please enter information associated with your online presence—Provider/Platform—Social media identifier.”

pregunta que pretende que los datos de presencia en redes sociales ofrezcan una mayor claridad y visibilidad sobre posibles actividades sospechosas o delictivas que conduzcan o bien a la admisión en el país, o a la denegación de la entrada.

La idea es tan brillante como la que pretende identificar delincuentes en el citado formulario I-94W mediante el sagaz procedimiento de… preguntarles si lo son. ¿Es usted un delincuente? Venga, confiese y firme que lo que ha dicho es rigurosamente cierto, porque como me diga usted que no es un delincuente y después resulte serlo, se va a enterar!

Es decir, que si en tu cuenta de Twitter, por la razón que sea, sigues a alguna cuenta que ellos tengan identificada como perteneciente a Daesh o simpatizante de alguna de sus tesis, buena suerte la próxima vez que intentes entrar en los Estados Unidos. Que seas periodista, antropólogo, investigador o estudioso del fenómeno islamista, en este tipo de cuestiones caracterizadas siempre por estar dibujadas con trazo muy, muy grueso, no te va a servir de nada. Que decidas no declarar tus redes sociales, dada la voluntariedad de la pregunta (aunque algunos congresistas se plantean seriamente convertirla en obligatoria), te convertirá con total seguridad en sospechoso sujeto a un mayor nivel de inspección. Y en esos casos, si resulta que por la razón que sea, alguien se llama igual que tú o ha creado en tu nombre una cuenta parodia en la que se dedica a seguir a terroristas o delincuentes… de nuevo, buena suerte, porque es más que posible que pases un rato muy entretenido hablando con unos señores muy simpáticos en la frontera.

La medida no es que sea absurda, sino que retuerce directamente la definición de absurdo: por un lado, obliga a los oficiales de inmigración a invertir horas y horas inspeccionando las cuentas en Facebook, Twitter, Instagram o los blogs personales de millones de personas, que sin duda serán “fascinantes” (por decir algo), pero en las que pretender encontrar el más mínimo rastro de terrorismo o delincuencia será sencillamente cómico. Por otro, se aseguran que todo aquel que tenga algo que esconder en las redes sociales se guardará muy mucho de confesarlo, y llevará a cabo sus actividades con todo tipo de precauciones, seudónimos, VPNs y demás posibilidades que existen para mantener una actividad como esa en un contexto razonablemente discreto. Al final algo que no solo no sirve para nada, sino que genera millones de datos inútiles y sin sentido.

Se mire por donde se mire, utilizar la actividad en redes sociales como indicador de posible terrorismo o delincuencia es, además de absurdamente intrusivo, una de las ideas más absurdas e inútiles que hemos podido ver en mucho tiempo.