La ultima frontera de las redes sociales - Cambio16Gonzalo Toca, de Cambio16, me llamó para hablar sobre el fenómeno de las fake news y la necesidad de las redes sociales de controlar la información que difunden, incluso derivada de requerimientos legales para ello, y hoy publica “La última frontera de las redes sociales“, en donde cita algunos de mis comentarios al respecto.

Mi posición en este tema intenta dejar claro que hablamos de un problema enormemente complejo: no se trata simplemente de pasar de manera ingenua una ley con importantes sanciones económicas que conmina a las redes sociales a eliminar actualizaciones utilizadas para diseminar el discurso del odio en cuanto lo vean, porque en modo alguno resulta así de sencillo. Los gobiernos que aspiran a solucionar el problema con semejantes medidas pecan ya no de ingenuidad, sino de auténtica estupidez.

Estamos ante situaciones completamente nuevas, sin precedentes, ante las que las propias redes sociales no saben qué hacer: por un lado, no pueden – ni mucho menos deberían – arrogarse un supuesto “monopolio de la verdad” y dedicarse a censurar información en función de sus propios criterios, porque eso, sin duda, terminaría por generar problemas mayores aún. Tampoco pueden plegarse a los deseos de un gobierno en concreto o de una legislación que prohiba determinadas cosas, porque hablamos de herramientas de difusión universal sujetas no solo a fueros jurídicos muy variados, sino incluso a problemáticas muy locales: lo que es delito flagrante y muy castigado en Alemania, no lo es en otros países, del mismo modo que informaciones consideradas perfectamente dentro de la libertad de expresión en ese país son causa inmediata de cárcel en Thailandia o en Turquía. El entorno es complejo, porque superponemos a la clásica división de fronteras una serie de herramientas que, de manera natural, no las tienen.

Pero además, luchamos contra otro problema de índole superior: la naturaleza humana. El sensacionalismo y el amarillismo siempre han tenido numerosos adeptos, hasta el punto que en países como el Reino Unido o la propia Alemania, algunas de las publicaciones más vendidas, como The Sun o Bild son probablemente los más claros exponentes de ese tipo de “periodismo” (y sí, las comillas están ahí para remarcar que respeto el periodismo y desprecio ese tipo de publicaciones). La naturaleza humana es la que lleva a una persona a difundir noticias que favorecen su punto de vista, aunque este sea sectario, histriónico o exagerado hasta lo grotesco. O que, ante la llamada de atención de una red social que advierte que esa noticia podría ser falsa en función de su contraste con otras o con la opinión de fact-checkers considerados fiables, reacciona con redoblados esfuerzos para difundirla y lo hace, además, con un texto en mayúsculas y con signos de admiración que dice “comparte esta noticia que la red social quiere censurar”.

El problema no solo no es sencillo, sino que requiere de soluciones my complejas. Algunos creen de manera ingenua que “los algoritmos” pueden diferenciar una noticia verdadera de una falsa, como si las inteligencias artificiales fuesen capaces, de la noche a la mañana, de superar a las naturales empleadas en tal propósito. No es así. Los algoritmos pueden llegar a reconocer determinados patrones de difusión, probablemente a crear señales y etiquetas de alarma si detectan una difusión exageradamente rápida o entre personas con perfiles muy afines. Pueden posiblemente pero no de manera sencilla, reconocer cuentas falsas o con una actividad sospechosa, o comparar versiones de una misma noticia y relacionarlas, como hace Google en Google News constantemente. Pero de ahí a etiquetar con decisión lo que es verdad y lo que no lo es, va un tramo, y dado que no todas las verdades son hechos comprobables y en estos temas hablamos muy a menudo de opinión, la frontera se muestra enormemente escurridiza. ¿De verdad querríamos redes sociales que de manera algorítmica censurasen determinadas opiniones? ¿Qué diría la Primera Enmienda de la Constitución de los Estados Unidos, por poner solo un fuero en el que este tipo de actitudes tendrían problemas?

Las redes sociales deberán, por tanto, comenzar a estudiar un problema de naturaleza compleja, en el que tendrán que emplear no simplemente algoritmos que cuesta mucho desarrollar y entrenar (y un campo en el que veremos infinitos errores y falsos positivos), sino también con editores humanos, con sistemas de alerta y etiquetado por pares, con fact-checkers, con recurso al periodismo considerado fiable o de fuentes comprobables, y con mucha, mucha paciencia. No es tan sencillo como decir “múltese a quien contribuya a difundir noticias falsas”, porque lo mismo estaremos hablando de usuarios desinformados o muy polarizados, que de enormes estrategias puestas en marcha con recursos cuasi-ilimitados de agencias gubernamentales dispuestas a desestabilizar o a sesgar situaciones en función de sus intereses. No, la injerencia rusa sobre las elecciones norteamericanas que está investigando el fiscal especial Mueller no es cosa de fantasía, como no lo son situaciones similares en muchos otros entornos que Rusia también ha llevado a cabo. Vivimos épocas en las que este tipo de actitudes han pasado a considerarse nuevas y muy potentes fuerzas en el contexto geopolítico internacional, con todo lo que ello conlleva.

Antes de compartir sin leer, de hacer algo tan humano como intentar reforzar tus puntos de vista con otros presuntamente afines, o de perder la razón exagerando o polarizando sin límites, deberíamos pensar eso, que estamos ante situaciones sin precedentes, que las redes sociales han rebajado muchísimo las barreras de entrada a la manipulación, y que se trata de un problema complejo que requiere soluciones que, sencillamente, no tenemos, que hay que trabajar con colaboración de todas las partes implicadas. No se trata de amenazar con multas, ni de sancionar sin más, sino de ser creativos y tratar de investigar con todos los medios disponibles. No es un problema irresoluble. Pero sin duda, no va a ser nada fácil dar con él.

 

IMAGE: Alexlmx - 123RFRecientemente, en comentarios surgidos en clases y conferencias, estoy volviendo a ver aparecer el mito de que Facebook y otras compañías utilizan las conversaciones de los usuarios a través de servicios de mensajería instantánea, de llamadas telefónicas o incluso simplemente cuando el smartphone está cerca – prácticamente a todas las horas del día – para adaptar mensajes publicitarios a sus intereses.

El mito lleva muchos años circulando, con todo tipo de “demostraciones palmarias” supuestamente documentadas, algunas provenientes de usuarios que afirmaban haber recibido anuncios de productos para curar el dolor de garganta y la amigdalitis precisamente después de haber escrito en WhatsApp que tenían la garganta irritada, anuncios de comida para gatos tras haber comentado que estaban pensando en tener un gato, o incluso profesores que afirmaban que esta práctica era cierta.

Lisa y llanamente: no es así. Es falso. Mentira. Una teoría de la conspiración, un mito, un bulo, una propagación de una información llamativa, que a todos cuando nos lo comentan nos evoca alguna vez en la que posiblemente nos ocurrió, y que resuena con otros conceptos que escuchamos habitualmente sobre la progresiva erosión de nuestra privacidad. El asunto ha sido descrito en muchas ocasiones en fact-checkers como Snopes, categóricamente negado por la compañía en notas oficiales en varias ocasiones, y hasta se han desarrollado apps como prueba de concepto de que podría hacerse, pero no se hace.

Que haya aplicaciones de Facebook que habiliten el micrófono para algunas cosas cuando el usuario lo solicita no supone una demostración de que nos estén espiando. Que surja una vulnerabilidad en el protocolo de cifrado de WhatsApp que hipotéticamente permitiría leer las conversaciones de los usuarios no conlleva de manera inmediata que sea una vulnerabilidad introducida por la compañía para leer nuestros mensajes y adaptarnos publicidad a los temas que hemos mencionado en ellos. Sí, WhatsApp, tras la adquisición de Facebook, es algo menos privada y una parte de la información que genera es utilizada para completar nuestro perfil, pero no escuchando ni leyendo nuestras conversaciones. El contenido de lo que hablamos o escribimos está cifrado y ni siquiera la compañía puede descifrarlo, ni siquiera aunque se lo demande un juez. Que nuestro micrófono pueda ser habilitado subrepticiamente por una app para escucharnos es algo que, aunque técnicamente posible, se restringe a las películas sobre espías, pero no tiene lugar en el contexto de las operaciones comerciales de ninguna compañía. Que lo pienses o lo comentes con tus amigos no te convierte en un enterado, sino en un magufo.

Las coincidencias entre conversaciones y anuncios son eso, coincidencias. Pueden responder a muchas cosas, y que jures y perjures que no has hablado con nadie sobre safaris hasta ahora y que de repente, tras comentarlo con un amigo, no paras de ver anuncios de safaris no demuestra nada: puede que cualquiera de tus amigos o personas de tu red lo hayan hecho, y no puedes controlar los contextos de todos ellos. El mundo está lleno de casualidades, y son ni más ni menos que eso, casualidades, del mismo modo que no paras de ver coches rojos tras comprarte un coche rojo o no paras de ver embarazadas cuando empiezas a pensar en tener un hijo. Es un fenómeno de atención selectiva o, simplemente, una casualidad. No nos dejemos llevar por rumores infundados y no acusemos a las compañías tecnológicas de convertir el mundo en el 1984 de Orwell… sí, el mundo está derivando peligrosamente hacia el 1984 de Orwell, pero no precisamente porque sean las compañías tecnológicas las que lo hacen, sino más bien otros actores.

Bastantes preocupaciones tenemos ya con nuestra privacidad y seguridad – yo, que no soy nadie especialmente amenazado o interesante, llevo permanentemente instalada una VPN en mi smartphone y ordenador – como para, encima, andar pensando que nuestros dispositivos nos escuchan cuando no nos enteramos. Dejemos tranquilas las teorías de la conspiración.

 

Revenge pornFacebook propone una medida para intentar proteger a las víctimas del llamado revenge porn, personas que tras haber compartido situaciones íntimas con su pareja, se encuentran con que, una vez finalizada la relación, esa persona publica fotografías sexualmente explícitas obtenidas con consentimiento durante la relación para vengarse de su pareja.

La solución propuesta está basada en un sistema de reconocimiento de fotografías, del estilo de los utilizados en otros servicios para, por ejemplo, reconocer imágenes sometidas a derechos de autor: los usuarios potencialmente afectados pueden subir a Facebook las fotografías que piensan que sus ex-parejas podrían utilizar como venganza, que son posteriormente eliminadas y convertidas en un hash que la compañía utiliza para impedir que puedan ser subidas a Facebook, a Instagram, o ser compartidas en Messenger. El pasado abril, Facebook también lanzó una iniciativa que permite a las afectadas denunciar la publicación de fotos de ese tipo e impide que puedan ser vueltas a publicar en las redes de la compañía.

¿Tiene sentido pedir a las usuarias de Facebook – estadística y culturalmente, el problema tiende a afectar sobre todo a mujeres – que suban a una red social fotos íntimas de sí mismas, potencialmente dolorosas por referirse a relaciones que han terminado, en prevención de que puedan llegar a ser utilizadas para el revenge porn? Hablamos de un tema enormemente sensible, que sitúa al usuario en una situación de gran incertidumbre: en primer lugar, tendría que superar el miedo a hacer algo tan contraintuitivo como tomar un material enormemente íntimo y privado, y subirlo nada menos que a una red social, lugar especialmente diseñado para su compartición. Necesitaría además superar varios saltos de fe: no solo confiar que la compañía hará lo convenido y eliminará la imagen tras haberla tratado, sino además, apostar por que no será objeto de posibles vulnerabilidades que permitan el robo de un material potencialmente tan sensible o que no haya empleados que puedan decidir vulnerar la confianza puesta en ellos. Por otro lado, es posible que anticipe una reacción inmediata de su ex-pareja, que al ver bloqueada la posibilidad de utilizar Facebook, Instagram o Messenger como herramientas para materializar su venganza, muy probablemente proceda a intentar consumar la misma sobre otros soportes digitales que no cuenten con similares controles. Y todo ello contando que dichas imágenes estuviesen en poder de la víctima potencial, en lugar de estar, como parece probable, únicamente en el móvil o la cámara de su ex-pareja.

¿Cabe esperar, por tanto, una respuesta exitosa a este tipo de iniciativa? Por más mujeres que consulto en este tema, intentando comprobar si, como cabe esperar, existe una respuesta diferencial en función del género a este tipo de dilemas, no encuentro ninguna que me diga que optaría por hacer uso de una opción así, y si yo puedo hacer una rápida encuesta informal entre amigas y compañeras para determinar que la solución no tiene demasiado sentido, Facebook debería planteárselo también antes de proponer una idea semejante. La solución propuesta tiene sin duda un componente tecnológico interesante – ya explorado anteriormente por otras compañías – pero todo indica que no considera o no hace una valoración adecuada de los aspectos psicológicos implicados, de la especial sensibilidad del tema, o de las prevenciones que cualquiera tendría cuando hablamos de asuntos tan delicados. Por otro lado, la alternativa más razonable podría ser tratar de disuadir un comportamiento tan ruin como la exposición de la intimidad de una ex-pareja incrementando el tipo penal del delito que supone y la severidad de su castigo, dado que la trazabilidad del mismo parece relativamente sencilla tanto desde un punto de vista técnico como desde el del mero sentido común.

El asunto es grave y de muy poca broma, todo un exponente de los problemas que la adopción y popularización de una tecnología genera sobre las fronteras de la privacidad: el 4% de los usuarios de Facebook han sido víctimas de este tipo de problemas, un porcentaje que asciende al 10% cuando consideramos a mujeres menores de 30 años – o, peor aún, de culpabilizar a las víctimas que lo experimentan. Deberíamos plantearnos hasta qué punto la compañía es capaz de proponer soluciones no solo técnicamente brillantes, sino también que respondan adecuadamente a la sensibilidad de los posibles afectados. Facebook es, sin duda, una de las compañías más interesantes para los desarrolladores brillantes: una empresa en la que no solo abunda enormemente el talento, sino que además, lo pone en valor gracias a la actitud de su fundador, que aún hoy continúa escribiendo y revisando código como parte de su actividad habitual. Sería conveniente que, además, desarrollase la sensibilidad necesaria como para centrarse en proponer soluciones bien equilibradas desde el punto de vista de la psicología de sus usuarios.

 

IMAGE: The Light Writer - 123RFWired publica un interesantísimo artículo, Net states rule the world; we need to recognize their power, muy al hilo de algunos de los temas de los que hablaba Rebecca MacKinnon en su muy recomendable libro “No sin nuestro consentimiento“, para cuya edición en español tuve el honor de escribir un epílogo: la alteración que supone en la geopolítica y la economía tradicional la superposición de una red de información global en la que las fronteras tienden progresivamente a perder su sentido, en la que los costes de transacción se reducen al mínimo, y en el que grandes corporaciones como Google, Facebook o Amazon pasan a jugar, con sus decisiones, un papel más importante que el de muchos gobiernos.

Facebook tiene más de dos mil millones de usuarios, y aunque algunos sean falsos, siguen siendo muchos más que los habitantes de China, y todos ellos son afectados por cualquier cambio en las políticas de la compañía. Los usuarios de Google son muy difíciles de calcular, pero simplemente su correo electrónico, Gmail, tiene más de mil millones, y Android, más de dos mil. Se estima que Amazon tenía más de trescientos millones de usuarios activos a principios de 2016, y a finales de 2017 tiene 541,900 empleados, el tamaño de un país pequeño. Cualquiera de estas compañías pueden tomar decisiones, por ejemplo, a nivel fiscal, capaces de generar desequilibrios en las balanzas comerciales de algunas economías. 

¿Qué futuro tiene la geopolítica tradicional, cuando se empieza a apuntar la posibilidad de que las compañías del futuro sean intangibles que tengan una estructura de DAOs, Decentralized Autonomous Organizations, que podrán escoger de manera prácticamente libre en qué régimen fiscal anclarse y cómo contratar con empleados de todo el mundo mediante modelos de gobernanza completamente distribuidossmart contracts? Si quieres, y por relativamente poco dinero, puedes convertirte en un ciudadano e-residente de Estonia, independientemente de tu localización y de tu pasaporte, y tener desde un documento nacional de identidad, hasta la posibilidad de constituir sociedades en la república báltica, que presume de ser la sociedad digital más avanzada del mundo.

Ciudadanías virtuales y, por supuesto, monedas virtuales: en 2015, en medio de los momentos más duros de la crisis griega, el país barajó la posibilidad de adoptar el bitcoin como moneda nacional. ¿Qué habría ocurrido si hubiesen sido capaces de llevarlo a cabo, teniendo en cuenta que el precio de la criptodivisa estaba en torno a los $230 entonces pero supera hoy los $7,500, y es tan líquido como para poder tener una tarjeta de débito y dedicarte, si quieres, a pagar en bitcoins en cualquier lugar del mundo? ¿Puede organizarse la economía de un país entero en torno a un concepto que la mayoría de habitantes del mundo aún no entienden y que algunos consideran una estafa piramidal?

Las fronteras, los países y las ciudadanías, convertidos en un concepto ya no solo revisado y revisable, sino cada vez más irrelevante. Trabajadores que escogen su pasaporte y su residencia en función de criterios de todo tipo, y que entregan su trabajo a través de redes globales mediante contratos inteligentes inviolables, y cobrando en criptomonedas. Compañías que se financian emitiendo sus propios tokens y que declaran allá donde escogen declarar mediante procesos de optimización fiscal que se aprovechan de la todavía vigente y obviamente obsoleta legislación existente. Las mayores potencias económicas del mundo tomando un cuerpo de naturaleza completamente diferente, definido no por el lugar donde has nacido, sino por otros factores. Lo que sabíamos de geopolítica y de economía global, convertido en papel mojado.

¿Estamos preparados para iniciar, o simplemente para pensar en iniciar, esta conversación? ¿O se va a desarrollar sin nosotros?

 

IMAGE: Mikhail Melnikov - 123RFNo nos engañemos: incluso en las democracias más maduras, las elecciones y sus campañas electorales han tenido siempre un elevado componente de teatro. Candidatos estrechando manos, haciéndose selfies y besuqueando niños mientras prometen cosas que, en muchos casos, saben que jamás van a poder cumplir, en inflamados mítines destinados a la exaltación y a las consignas fáciles. Si alguien busca pensamiento crítico o algún tipo de reflexión de calidad, las campañas electorales no son precisamente el lugar para encontrarlos.

Igualmente, durante años, hemos convertido en habitual dar entrada a todo tipo de intereses en las campañas electorales, expresados habitualmente en forma de financiación y recursos para los candidatos que interesaban al donante. Esos aportes de recursos han venido, tradicionalmente, de lobbies empresariales, de grupos de presión o de otros intereses, entre los cuales ha habido, en numerosas ocasiones, países extranjeros. Aportar dinero a un candidato de un país determinado esperando obtener un mejor trato en las relaciones bilaterales, mejores acuerdos comerciales y otro tipo de prebendas es una idea que no nos resulta en absoluto extraña.

Sin embargo, lo habitual hasta el momento había sido que ese tipo de intereses extranjeros se expresasen así, como aportes de dinero que el candidato beneficiado podía utilizar como entendiese oportuno, regulados de manera más o menos transparente por la legislación que regula la financiación de los partidos políticos. La injerencia directa en la campaña electoral es algo mucho más novedoso, y a medida que avanza la investigación del fiscal especial Robert Mueller sobre la interferencia de Rusia en las elecciones presidenciales norteamericanas de 2016, empieza a agotar ya nuestra capacidad para la sorpresa.

Un destacado perfil pro-Trump dentro de la llamada alt-Right norteamericana con más de 80,000 seguidores y extensamente citada por la prensa, Jenna Abrams, ha sido descubierta como completamente ficticia y creada por una troll farm rusa con base en San Petersburgo. El caso se une a decenas de cuentas de supuestos activistas de diversas facciones destinados a explotar y radicalizar las ideas más polémicas y polarizadoras de la sociedad norteamericana durante la campaña, ideas que en muchos casos, como el del racismo, llevaban ya bastantes años fuera de la dialéctica política. La gran cantidad de anuncios financiados por Rusia, que alcanzaron a millones de norteamericanos mediante cuidadosas estrategias targeting en redes sociales como Facebook o Google, eran tan solo la punta del iceberg en un escenario en el que se combinaron hábilmente con todo tipo de cuentas de supuestos norteamericanos inexistentes, personalidades inventadas con mensajes y dialécticas radicales que fueron seguidas o compartidas por millones de personas. Una estrategia a la que, muy posiblemente, las propias compañías tecnológicas contribuyeron con los llamados embeds, empleados colaboradores del equipo de campaña de Donald Trump que Hillary Clinton rechazó, y que aparentemente jugaron un papel muy activo a la hora de definir los mensajes que eran difundidos por el candidato.

Un país cuya democracia es un chiste, Rusia, ha conseguido a su vez convertir en un chiste la mismísima democracia de su enemigo, los Estados Unidos, en una época en la que la guerra fría se consideraba ya como parte de un pasado que había finalizado en 1991 con el colapso de la Unión Soviética. El crecimiento y la adopción masiva de las redes sociales ha generado un nuevo teatro, un renovado patio de operaciones que uno de los políticos más megalómanos del mundo, Vladimir Putin, ha aprendido a explotar hasta límites insospechados. La respuesta, por otro lado, resulta muy compleja: los movimientos iniciados en la última etapa de Barack Obama como presidente, con sanciones diplomáticas de diversos tipos a Rusia, fueron planteados cuando la magnitud de la interferencia estaba aún varios órdenes de magnitud con respecto a lo que ahora conocemos, y ni siquiera está claro que puedan realmente llegar a servir para algo en un entorno en el que el control se antoja sumamente complejo.

Si en algún momento pensaste que la injerencia rusa en las elecciones norteamericanas era algo anecdótico o irrelevante, piénsalo de nuevo. Estamos, posiblemente, ante el mayor desafío al que se enfrenta la democracia en toda su historia, con una deriva hacia el populismo que las redes sociales están alimentando en una espiral aparentemente imparable, capaz de llegar a alterar los resultados de las consultas electorales de países con democracias supuestamente maduras y consolidadas. Un problema mucho mayor de lo que originalmente parecía, y cuyas consecuencias, además, han llegado ya demasiado lejos.