Twitter account suspended (IMAGE: Kent Bye, CC BY)Twitter anuncia cambios en su algoritmo destinados a limitar la visibilidad de mensajes considerados ofensivos y de cuentas calificadas como trolls, un movimiento basado en miles de señales de comportamiento que intentarán deducir qué mensajes o cuentas merecen un tratamiento excluyente y los confinarán a espacios de acceso más limitado y de acceso menos habitual dentro de la red social. Facebook, por su parte, afirma haber eliminado 583 millones de cuentas falsas y 865 millones de actualizaciones, la mayor parte spam, en los primeros tres meses de 2018.

Según las aseguradoras de automóvil, hasta un 90% de las reclamaciones que reciben son fraudulentas, pero son generadas por alrededor de un 3% de los conductores. En todas las industrias existen patrones de este tipo: usuarios que incurren en un comportamiento claramente abusivo, y que generan perjuicios de diversos tipos para otro usuarios que se comportan de acuerdo con las reglas. En las redes sociales pasa exactamente lo mismo: un pequeño porcentaje de usuarios no solo no se comportan de la manera esperada, sino que además, pretenden abusar del sistema utilizándolo para fines que, en caso de ser llevados a cabo de manera habitual o masiva, convertirían la actividad en esa red en completamente insostenible. Los spammers, los trolls o los comportamientos abusivos generan perjuicios de muchos tipos, pero las redes sociales, tradicionalmente, han tratado de balancear cuestiones como la libertad de expresión de una manera tan garantista, que este tipo de comportamientos no han sido nunca adecuadamente desincentivados. Además, existen otros factores, como la dificultad de control: en muchos casos, los que incurren en este tipo de comportamientos y son sancionados con la expulsión o el cierre de la cuenta por ello, simplemente se dan la vuelta y abren otra cuenta sin ningún tipo de impedimento con la que continuar esa misma actividad, y así sucesivamente.

En la práctica, las medidas acometidas por Twitter pueden tener las mejores intenciones, pero son una solución muy limitada que oculta la realidad: lo que hay que hacer con el usuario que abusa del sistema y lo utiliza para insultar, hacer spam o acosar a un tercero no es limitar su visibilidad, sino lisa y llanamente, expulsarlo, y además, utilizar todos los medios tecnológicos al alcance de la compañía para evitar que vuelva a abrir otra cuenta. La expulsión sumaria es la única manera real de desincentivar determinados comportamientos que, de hecho, deberíamos calificar como de antisociales, y que por tanto, no deberían tener cabida en una red social. Diariamente denuncio a Twitter cuentas que violan claramente sus políticas de uso, unas políticas claramente expresadas en sus términos de servicio, para llevar a cabo spam: la compañía no hace ABSOLUTAMENTE NADA con esas cuentas. No toma acción de ningún tipo más que permitirme que las bloquee, lo que, obviamente, puede ser una solución limitada para mi problema, pero en modo alguno funciona como solución general. Toda la historia de Twitter responde al mismo problema: un camino alfombrado de buenas intenciones, de medias tintas, y de ausencia real de medidas efectivas.

Dentro de la responsabilidad de administrar una red social está el deber de poner en práctica sus términos de servicio. De nada sirve poner en esos términos de servicio que se sancionará con la expulsión a un usuario que incurra en spam o que utilice la red para acosar o insultar a un tercero, si en la práctica no vamos a  hacer absolutamente nada cuando esos casos se producen. Nada hace más daño a un sistema que las reglas que no se cumplen, o que se convierten en auténticas parodias. La paradoja de las redes sociales es clarísima: es perfectamente probable que su experiencia de uso y su propuesta de valor mejorase de manera muy clara simplemente excluyendo al 3% de usuarios que incurre en prácticas abusivas y antisociales, que las utiliza para hacer spam, que abre múltiples cuentas o que se dedica a insultar en ellas. Una política de expulsión efectiva, que de verdad cerrase esas cuentas y generase dificultades a quienes intentasen volver a abrir una cuenta desde el mismo dispositivo caracterizado mediante técnicas de digital fingerprinting o mediante otro tipo de análisis sería susceptible de generar un gran efecto positivo. Sin embargo, llevadas en muchos casos por la codicia de poder presentar un crecimiento o unas métricas de actividad más elevadas, las redes sociales tienden a retrasar o ignorar ese tipo de políticas, provocando un efecto nocivo que reduce la propuesta de valor para el resto de usuarios.

¿Es realmente tan difícil plantear unas reglas y cumplirlas? Hace mucho tiempo que soy de la opinión de que la inmensa mayoría de los problemas derivados de las redes sociales se solucionarían con una aplicación fehaciente de sus términos de uso y, básicamente, con mano dura. En entornos sociales, las reglas deben ser aplicadas de manera estricta si se quiere ofrecer una experiencia libre de abusos, y el pequeño porcentaje de usuarios dispuestos a abusar de esas reglas son, en la práctica, responsables del 90% de los problemas que se generan. Fuera de la red, la mayoría de las normas lógicas de convivencia se aplican de manera inmediata y sin temblarle el pulso a nadie, algo que vemos como completamente natural. ¿A qué estamos esperando para aplicar en la red reglas que cualquiera vería completamente natural que se aplicasen fuera de la red?

 

IMAGE: Typography images - CC0 Creative Commons Con las redes sociales habituales y la publicidad bajo intenso control y escrutinio en los procesos electorales de cada vez más países del mundo, se multiplican las evidencias que apuntan a que los interesados en la manipulación de los ciudadanos están orientando cada vez más sus esfuerzos hacia una nueva herramienta, teóricamente más personal y sobre la que resulta mucho más difícil ejercer un control efectivo: la mensajería instantánea.

Diseñada inicialmente como medio de interacción personal, para conversaciones entre conocidos, la mensajería instantánea ha evolucionado para convertirse, en muchos casos, en una herramienta grupal a través de la que circulan y se difunden todo tipo de mensajes. Tras el papel aparentemente destacado de Facebook Messenger en la difusión de rumores y mensajes de odio racial en la crisis humanitaria de los Rohingya en Myanmar en 2017, Facebook ha decidido introducir opciones que permiten a los usuarios reportar conversaciones a través de la herramienta, con categorías como acoso, discurso de odio o suicidio, en un intento por ejercer un mayor nivel de control sobre una herramienta que, como tal, no es propiamente una red social, sino un canal de comunicación que ha excedido los límites de lo que originalmente era la comunicación interpersonal.

En el mismo sentido, algunos artículos apuntan al papel central que WhatsApp parece estar jugando en la campaña electoral de las próximas elecciones indias: una gran cantidad de grupos con elevados niveles de popularidad, partidos creando infraestructuras en las que sus miembros se responsabilizan de influenciar el voto de determinados grupos de personas, y difusión de mensajes que, por hallarse en principio dentro de un canal restringido a la comunicación privada, pueden exceder el tono o evitar el control que en principio se ejerce sobre la propaganda electoral o los mensajes de campaña tradicionales. En la práctica, una forma de tratar de influenciar el voto indeciso mediante una herramienta cuyas conversaciones discurren en un entorno cifrado al que ni siquiera la propia compañía tiene acceso, y que por tanto tendría necesariamente que partir de la propia denuncia del receptor del mensaje de cara a posibles acciones de control.

Cada vez son más las personas que consideran los grupos de mensajería instantánea como foros en los que reciben y comentan noticias de todo tipo. En realidad, como todo contexto social, hablamos de un canal a través del que pueden plantearse y escalarse acciones de ingeniería social, con el problema de que, en este caso, el control es todavía más difícil que en el caso de las redes sociales tradicionales. Grupos en los que habitualmente existe un contacto personal con algunos de los miembros, que típicamente reflejan y amplifican las creencias de sus participantes, y en los que los interesados en llevar a cabo procesos de manipulación pueden introducirse de manera relativamente sencilla, circular noticias falsas o mensajes inflamatorios, y poner en práctica todo tipo de técnicas de ingeniería social. Mientras en una red social resulta relativamente sencillo, para el gestor de la red, evaluar la difusión o el alcance de una campaña o acción publicitaria, en una red de mensajería instantánea este tipo de acciones de evaluación podrían resultar prácticamente imposibles.

La solución a este tipo de procesos no está, me temo, en un control de los canales que, en casos como el de la mensajería instantánea, se antoja prácticamente imposible. La solución hay que buscarla a más largo plazo, casi generacional, mediante procesos que, introducidos en la educación, ayuden a la creación de criterio, a la generación de prácticas como la verificación de fuentes, la depuración de mensajes, el contraste o el reconocimiento de procesos de manipulación: solo una sociedad que se prepare adecuadamente contra este tipo de procesos de intoxicación colectiva puede considerarse madura a la hora de desenvolverse en la era de unos medios sociales que han sido vistos por muchos como una auténtica oportunidad. Tras la experiencia de unas elecciones norteamericanas convertidas en prueba máxima, y previamente ensayadas en múltiples procesos electorales en otros países, ahora llega la enésima edición: la introducción en la ecuación de las herramientas de mensajería instantánea: algunos usuarios en India afirman estar expuestos a mensajes de contenido político prácticamente cada minuto, con contenidos que van desde las puras soflamas hasta las encuestas falsas con intención de dinamizar el voto, en un contexto en el que, además, el refuerzo social se construye en base a personas conocidas, a familiares o a amigos, lo que dificulta un eventual abandono del grupo. Un proceso que, mucho me temo, solo puede ir a más, y en el que las acciones de control se antojan sumamente complejas. La única solución es llevar a cabo más trabajo de información, más advertencias, más esfuerzos por evitar que los ciudadanos consideren un único canal como fuente infalible de conocimiento, en un proceso en el que muchos no creen aquello que tiene más sentido o más posibilidades de ser verdad, sino simplemente aquello que refuerza sus tesis o sus creencias. Y en este sentido, las herramientas de mensajería instantánea podrían estar convirtiéndose en toda un arma de manipulación masiva con importantes posibilidades de cara a próximos procesos electorales.

Nada es más fácil que manipular a aquel que prácticamente busca ser manipulado.

 

Angry Twitter bird (IMAGE CREDIT: Unknown)

Seguramente lo más interesante que puedes leer hoy si te interesa el tema de las redes sociales desde un punto de vista de difusión de la innovación es este artículo largo en Fast Company titulado “‘Did We Create This Monster?’ How Twitter Turned Toxic, en el que se narra magistralmente un proceso que conozco perfectamente, porque viví directamente desde un nivel de contacto relativamente privilegiado con la compañía e incluso con episodios problemáticos que me afectaban personalmente y que la compañía nunca supo resolver adecuadamente: cómo una plataforma creada para que las personas compartiesen mensajes cortos se convirtió en el horrible desastre tóxico, incómodo y peligroso que vemos hoy, en el que intentar mantener la propuesta de valor de la red para el usuario se convierte poco menos que en una carrera de obstáculos.

En las discusiones iniciales con fundadores de Twitter me llamó la atención la importancia y el compromiso que tenían con la protección de la libertad de expresión. En una herramienta creada casi por casualidad en el seno de una compañía que ni siquiera se dedicaba a ello, resultaba curioso ese nivel de concienciación. En realidad, esa defensa a ultranza del concepto, que podía resultar enormemente atractiva para cualquiera que tomase contacto con la compañía, se ha revelado como una actitud completamente primaria irresponsable, similar a la de unos padres que intenten educar a un hijo sin ningún tipo de restricción, dándole siempre todo lo que el niño pida.

El siguiente párrafo es parte de una secuencia de mensajes que crucé con uno de los fundadores de Twitter nada menos que en el año 2008, cuando me encontré siendo víctima de una situación de acoso y bullying a través de su red:

It is sad to see you consider the account a parody. By doing so, I truly believe you are stretching the concept of parody to its very limits (…) It is exactly the same thing as being harassed by a bully in school: these people writing complaints are the boys standing around the bully watching him harassing the other guy, laughing their ass off and doing nothing. It is cruel and it is wrong. It is not a parody, its plain cruelty, and is something that everyone, including my daughter and my family, can see. Quite frankly, if I had invented something like Twitter and saw it used to cause so much harm, pain and sorrow, I wouldn’t feel at ease with myself. When I originally asked you for advice, I was expecting Twittter to react by deleting the account. Doing what you did obviously made things much worse: you turned the bully into some sort of hero. I respectfully ask you again to reconsider the deletion of the page and define clearly the concept of parody: any lawyer would tell you the parody ends when it meets permanent, long lasting harassment, and this is exactly what this guy is doing to me. 

Aquel episodio de 2008, con una Twitter recién elevada a la popularidad, fue para mí profundamente doloroso: puedes caer mal a alguien – es algo que le puede pasar a cualquiera y cuya probabilidad se incrementa según se eleva el nivel de visibilidad de una persona – pero que un grupo de individuos a los que les caes mal se dediquen a insultarte y a lanzarte dardos envenenados en público, mientras otras personas, incluyendo a algunos que considerabas amigos tuyos, les ríen las gracias y celebran lo ingeniosos que son como si no hubiera un ser humano al otro lado me pareció profundamente asqueroso, algo que no podía justificarse de ninguna manera aplicando la libertad de expresión, porque esa libertad, como todas, tenía necesariamente que tener límites. Con aquel episodio aprendí mucho, y ha condicionado muchas de las cosas que hago o, sobre todo, que dejo de hacer en la red.

Como vemos, el problema no ha cambiado. Millones de personas han sufrido en Twitter problemas similares al mío, muchísimos de ellos sin duda mucho más graves y dolorosos. Hoy esa cuenta que me acosaba ha eliminado sus contenidos porque, por alguna razón, sus creadores juzgaron que era mejor hacerlo así, pero no porque Twitter hiciera nada para evitar el acoso: si hoy quisieran, por las mismas razones que entonces, volver a crearla, seguramente Twitter ofrecería la misma respuesta. Sí, de acuerdo: la mayoría de las personas que conozco y yo mismo valoramos enormemente la libertad de expresión… pero eso no quiere decir que pueda ejercitarse sin freno ni límite alguno, y si lo intentas gestionar así, el resultado lleva, desgraciada e inequívocamente, a lo que Twitter es hoy. En muchos sentidos, esta entrada puede interpretarse casi como una continuación de la de ayer sobre las redes sociales y la naturaleza humana: del mismo modo que no podemos dar a un niño absolutamente todo lo que pide, porque carece de freno y de control para saber si eso es bueno o no, y si lo hacemos terminaremos seguramente con un niño con innumerables problemas, una plataforma social tiene exactamente el mismo desarrollo: o restringimos determinados comportamientos, o nos encontraremos con una red social insana, no escalable y llena de problemas de difícil solución.

La comparación me parece, cuanto más la pienso, completamente adecuada: podemos tener ideales maravillosos que nos lleven a pensar que es bueno no restringir lo que nuestro hijo quiere en cada momento, darle siempre lo que pida. Pero desgraciadamente, la educación, como proceso, implica necesariamente restricción. Conlleva hacer entender al niño que aunque, aunque en su ignorante egoísmo, desee mucho una cosa, puede haber múltiples razones que hagan que no deba obtenerla. La educación basada en la concesión constante de todo lo que el niño pide es un maldito desastre que genera seres humanos infelices cuando se topan con la realidad de la vida en sociedad y sus muchas – y necesarias – restricciones.

En las plataformas sociales pasa exactamente lo mismo: cuando la fase de popularización alcanza un momento determinado, o se restringen de manera inequívoca y decidida determinadas actitudes, o acabarás teniendo un estercolero social que reflejará inequívocamente lo peor del ser humano. Ese proceso, del mismo modo que en los niños lo conocemos como educación, en las plataformas sociales se llama management. Y lo que es peor: habrás llegado a ese resultado pretendiendo llevar al límite un principio en el que creías profundamente, como la libertad de expresión, del mismo modo que unos padres terminarán teniendo un monstruo de niño maleducado por haber pretendido algo tan aparentemente positivo y razonablemente deseable como el darle todo lo que quería. El problema de Twitter se llama, sencillamente, mismanagement: en pos de un ideal aparentemente elevado y deseable, han dado lugar a una criatura que hace a muchos de sus usuarios profundamente infelices y les obliga a enfrentarse con lo peor de la naturaleza humana.

Pensemos en los directivos que han pasado por Twitter como en esos padres de niños insoportables que molestan a todos los usuarios de un restaurante chillando de manera inhumana o actuando como completos salvajes antisociales, mientras sus padres nos piden comprensión “porque son niños”: sí, ya… ellos son niños, y vosotros sois unos impresentables que no sabéis educarlos, y a quienes seguramente deberían restringirles legalmente la capacidad de tenerlos por el bien de toda la sociedad. Exactamente igual, una serie de personas exitosas en el ámbito de las empresas tecnológicas elevaron una serie de ideales por muchos compartidos, como la libertad de expresión, y se dedicaron a hacer crecer a su plataforma sin restricción alguna, “porque creemos en eso”. Ese, ni más ni menos, es el relato de lo sucedido con Twitter. Ahora, cuando el niño ya no es tan niño, lo de proporcionarle la educación que no se le proporcionó en su momento se está probando mucho más complejo, una tarea sin duda dolorosa, que implica renuncias y en la que no existen garantía alguna de llegar a buen puerto. Simplemente, mismanagement, con todo lo que ello conlleva: buenos deseos llevados al límite y no teniendo en cuenta aspectos como la naturaleza humana o la escalabilidad de determinados comportamientos. La sociedad tiene reglas no porque seamos unos dictadores, sino porque son necesarias para la convivencia. Los niños necesitan aprender esas reglas porque son necesarios para llevar una vida en sociedad. Y a las plataformas sociales y sus usuarios… les pasa exactamente lo mismo. A las pruebas me remito.