WhatsApp fake newsA medida que la tecnología, el periodismo, los gobiernos y una gama cada vez más amplia de actores intentan buscar soluciones contra la difusión de noticias falsas en redes sociales, más nos vamos dando cuenta de que, en realidad, el problema se debe a una ausencia de educación en el uso de una herramienta que cuenta con potentes sistemas que incentivan la compartición, unido a una cultura en la que mecanismos como la verificación, el contraste de fuentes o el desarrollo del pensamiento crítico no forman parte aún del proceso educativo.

Podemos desarrollar infinidad de herramientas; sistemas de verificación, fact-checkers o algoritmos para intentar combatir la difusión de las llamadas fake news, pero en último término, cuando las barreras de entrada a la publicación y difusión bajan dramáticamente, resulta imposible evitar que una persona que está deseando creer algo participe en su difusión a muchas otras personas que, probablemente, piensan igual que ella. Las únicas soluciones verdaderamente sostenibles, seguramente, están relacionadas con el cambio del proceso educativo y el desarrollo de habilidades  en el conjunto de la sociedad.

En el medio de toda la polémica sobre la circulación de noticias falsas, surge un canal que no es estrictamente y como tal una red social, pero sí juega a menudo un papel similar: estrictamente, WhatsApp y los sistemas de mensajería instantánea son canales interpersonales de comunicación, pero cuando la comunicación se estructura en grupos y las personas se convierten en vectores que reenvían y circulan información entre esos grupos, lo que tenemos es, en realidad, un mecanismo perfecto para la difusión, que puede ser apalancado por cualquier interesado en la creación de estados de opinión.

Recientemente, en una de las regiones centrales de India, dos jóvenes que detuvieron su automóvil para pedir indicaciones fueron linchados por una multitud que creyó que eran, tal y como habían leído en un mensaje ampliamente difundido por WhatsApp, criminales que buscaban matar a personas para comerciar con sus órganos. El meteórico crecimiento de WhatsApp ha convertido la plataforma de mensajería en un canal perfecto por el que circulan bulos de todo tipo y que, al no ser un canal público, se convierte en una caja negra que dificulta sensiblemente las labores de seguimiento y verificación. Personas de toda condición que creen hacer un favor a sus compañeros de grupo alertándolos sobre supuestas “noticias” que informan sobre la elevación de la alerta terrorista, sobre un nuevo tipo de robo o estafa, sobre el tremendo peligro de unos supuestos smartphones explosivos abandonados en la calle o sobre teorías conspiranoicas de todo tipo, pero que también pueden ser adecuadamente instrumentalizados para difundir noticias con propósito de manipulación social o política.

La evolución de las tecnologías implicadas en la lucha contra las fake news puede verse de día en día. Desde servicios de verificación como Verificado (México), Maldito Bulo (España) o las ya veteranas Snopes o PolitiFact (Estados Unidos), hasta herramientas basadas en blockchain que etiquetan las noticias en el navegador. Para cada avance en el desarrollo de, por ejemplo, deep fakes en vídeo que permiten alterar secuencias o voces para hacerlas parecer genuinas (¿cómo no lo voy a creer y a circular, si lo he visto con mis propios ojos?), surgen startups con rondas de capital interesantes centradas en su análisis y detección. Una cuestión central, en cualquier caso, sigue persistiendo: cómo conseguir que una persona no consuma o circule una información que está personalmente interesado en creer, por encima de cualquier sistema de verificación, porque coincide con su visión del mundo.

Hablar del tema, en cualquier caso, ayuda a generar una cierta conciencia: no, quien te envía esos mensajes a través de un grupo de WhatsApp no es necesariamente alguien interesado en tu bienestar, sino muy posiblemente, el fruto de un esquema de manipulación diseñado para esparcir un bulo determinado de manera interesada. La manipulación masiva recurriendo a herramientas como WhatsApp se ha convertido en algo tangible y demostrable, lo que nos obliga a tomarnos cada cosa que recibamos a través de ese canal y que tenga capacidad para trascender a cambios en nuestra forma de ver la sociedad con el más que nunca necesario grano de sal. Cuando leas o cuentes algo, piensa que si la única referencia que tienes es “me lo pasaron por WhatsApp” o “lo leí en WhatsApp”, es muy posible que sea un bulo.

 

IMAGE: E. DansUn artículo en The Atlantic, The era of fake video begins, subraya el problema que surge cuando el desarrollo del machine learning hace perfectamente posible crear vídeos manipulados en los que se puede obtener prácticamente cualquier efecto, desde insertar una cabeza en un cuerpo de otra persona con un nivel de perfección que convierte el cambio en prácticamente imperceptible, hasta cambiar el movimiento de los labios de un personaje y su voz para que parezca que dice algo que no ha dicho, pasando por cambiar el tiempo o pasar del día a la noche.

Es el mundo del deepfake, término creado por la fusión de deep learning y fake, y popularizado por el primer usuario que creó un canal para subir vídeos de ese tipo: la posibilidad de, con herramientas relativamente sencillas, manipular o alterar la realidad para que se ajuste a lo que alguien pretende, sea un vídeo porno con su actriz favorita, un político diciendo algo que no dijo, o cualquier otro tipo de invención que, en realidad nunca tuvo lugar, pero se hace parecer perfectamente real y recogida en vídeo. A partir del momento en que las herramientas son suficientemente sencillas, cualquiera con tiempo e interés puede hacerlo, y la tarea se convierte en algo similar a contar con un asistente prácticamente perfecto que corrige los detalles fotograma a fotograma. Algunas páginas han prohibido su uso, pero en otras, particularmente pornográficas, es fácil encontrar secciones enteras de deepfakes, de vídeos creados por usuarios en los que se utilizan este tipo de técnicas, con resultados, en muchos casos, perfectamente creíbles o muy difíciles de detectar para un observador casual o no entrenado.

¿Qué ocurre en un mundo en el que la tecnología avanza para crear realidades inventadas que no podemos creer aunque las estemos viendo con nuestros propios ojos? ¿Qué consecuencias puede tener que podamos ver un vídeo porno protagonizado por quien nosotros queramos, poner a un político a decir la frase que estimemos oportuna, o falsear cualquier otro detalle de cualquier tipo? El problema de las fake news, la invención de titulares y noticias falsas destinadas a su difusión, pasa a tener una nueva dimensión: ahora no solo se trata de creer o no a la fuente, sino al material audiovisual que viene con ella. Desde posibles problemas reputacionales a crisis de imagen o simple entretenimiento, generados tecnológicamente de una manera tal que convierte en sumamente difícil diferenciar la ficción de la realidad. Puedes no haber rodado un vídeo pornográfico en tu vida, no haber estado jamás en un sitio o no haber dicho nunca una frase determinada, pero eso ya no es obstáculo para que tu imagen sea distribuida apareciendo en un vídeo pornográfico, en un sitio en el que no has estado, o diciendo algo que nunca has dicho.

Como en toda caída de barreras de entrada, se generan espacios de muy difícil definición. Desde un punto de vista estrictamente legal, las consecuencias parecen claras. Pero si añadimos una capacidad para crear este tipo de vídeos completamente distribuida y herramientas para darles una difusión masiva mucho antes de que nadie pueda reaccionar, ese desarrollo legal que supuestamente protege al afectado se convierte en prácticamente irrelevante, porque cuando es capaz de reaccionar, el daño, en muchos casos, ya está hecho, y las imágenes no pueden ser borradas de los cerebros de quienes han sido expuestos a ellas. El valor de un vídeo, de algo que presuntamente sucede ante nuestros ojos, reducido a la de documento que casi cualquiera con cierta habilidad puede crear y manipular, prácticamente sin límites. Toda una necesidad de reeducar a una sociedad no preparada para ello y hacerles entender que aquello que sus ojos están viendo no tiene por qué haber sucedido realmente, y no es necesariamente producto de una maquinaria sofisticada o cinematográfica de efectos especiales, sino que puede haber sigo creado por casi cualquiera.

Curioso mundo este…

 

Buy Instagram followersAl hilo del último escándalo de Facebook y de las medidas de la compañía para intentar mejorar su reputación, me parece muy interesante esta editorial en The New York Times, titulada Facebook is not the problem. Lax privacy rules are, en la que se plantea que el problema no está tanto en las redes sociales como tales, sino en el uso que hacemos de ellas, y en concreto, en la falta de un consenso claro y bien definido sobre el concepto de privacidad.

El concepto de laxitud me provoca una reflexión que he hecho ya en otras ocasiones, a medida que vamos presenciando el ciclo de vida de más y más redes o aplicaciones sociales a lo largo del tiempo: que el problema no está en las redes como tales, sino en el tipo de uso que se hace de ellas, particularmente a partir de su fase de popularización. En muchos sentidos, parece que es imposible para una red o aplicación social crecer en número de usuarios sin perder de manera drástica su esencia, sin convertirse en un enorme montón de basura utilitarista, mayormente falsa y artificial.

El caso de Instagram, durante mucho tiempo considerada “la niña bonita de las aplicaciones sociales”, la que había sido capaz de desarrollar un modelo de publicidad más sano y menos intrusivo, o a la que algunos veían incluso capaz de solucionar muchos de los defectos que se achacaban a la propia Facebook. En sus orígenes, Instagram responde a un modelo clarísimo: una app creada por entusiastas de la fotografía, que diseñan unos filtros muy buenos (nada parecido a lo que había antes, que consistían básicamente en burdas formas de elevar todos los parámetros hasta límites absurdos que generaban resultados en muchos casos casi grotescos), que el usuario aplicaba, veía mejorar su foto y, de manera natural, quería compartir el resultado. La transición del modelo de uso y, sobre todo, la adopción por parte de un público más joven generó algunos cambios: la fotografía, en muchos casos, se convirtió en un pretexto para la interacción: un joven, en muchos casos, podía hacer una fotografía a una simple pared o un simple selfie sin ningún interés particular, porque el interés estaba no tanto en la imagen, sino en el hilo de comentarios que surgía posteriormente.

El problema surge cuando, a raíz de su fuerte crecimiento, Instagram pasa a una fase de fortísima instrumentalización. No he tenido todavía oportunidad de conocer a Kevin Systrom, co-fundador de Instagram, pero dudo que se encuentre cómodo con el resultado de esa fase. En un espacio de tiempo relativamente corto, Instagram se mercantilizó hasta el límite, y sobre todo, perdió todo atisbo de autenticidad. Las herramientas parasitarias excedían de manera burda lo que la propia Instagram ofrecía como business tools, como si un uso corporativo no pudiese ser compatible con un entorno socialmente genuino. La compra de followers se convirtió en moneda común, del mismo modo que lo hicieron los esquemas de follow/unfollow o el uso de bots y herramientas abiertamente parasitarias como Instagress o Archie para obtener más seguidores. Instagram se convirtió en un entorno tóxico en el que todo estaba justificado con tal de llegar a la página inicial: collective accounts, comment pods, círculos de supuestos influencers que no eran, en realidad, más que simples mercenarios… cuando Instagram quiso reaccionar a semejante instrumentalización, a tanta basura absurda, se había convertido en una caricatura de sí misma, en un ecosistema completamente viciado e irrespirable que generaba auténticos monstruos, una parodia de lo que debería ser un entorno social sano. Los cierres de Instagress o de Archie, forzados por la propia Instagram a partir de escándalo iniciado por la “salida del armario social” de la instagrammer  Essena O’Neill, no arreglaron la cuestión: simplemente, aparecieron otras herramientas similares, que determinaron que el trabajo de Instagram de localizar esos bots se convirtiese en casi detectivesco, en un contexto en el que la función de la red social ya se había pervertido, y muchos ya no concebían la idea de estar en ella sin inflacionar sus desmesurados egos a base de bots y herramientas similares.

La caída de Instagram en este proceso, que muy posiblemente haya reportado a la compañía cuantiosos beneficios gracias a su crecimiento, pero ha tenido un coste incalculable en términos de credibilidad, ha tenido muchos elementos comunes con casos anteriores como el de Twitter, en el que la compañía se mostró incapaz de contener determinados fenómenos que terminaron por convertirse en fundamentales en su percepción y propuesta de valor. Entre tener una red interesantísima para mantenerse informado, y un entorno completamente tóxico y falseado a base de bots y parásitos similares va una distancia, en en mundo de lo social, muy pequeña. Es tan sencillo como lo que permites que se desarrolle o no sobre tu plataforma. La frontera entre permitir un uso razonable que fomente la creación de contenidos, y convertirse en un “vale todo” donde todo es falso y podrido es muy fina, y no ha habido, por el momento, redes sociales que la hayan sabido manejar bien. En el caso de Instagram, sin una acción clara y contundente que elimine todos los fake followers, castigue a quienes los usen y elimine a los reincidentes, o penalice todo intento por subvertir el correcto funcionamiento de la plataforma, no habrá ninguna posibilidad de salir de la dinámica actual, de un proceso que yo denomino “corrupción social”, equivalente a un cáncer, a una podredumbre. Y el problema, una vez más, no vendrá de las acciones de Instagram, sino de su inacción: de su incapacidad por prevenir y entender el funcionamiento de la naturaleza humana. Una fuerza que, sin límites ni restricciones, es capaz de destruir y convertir en completamente insostenible cualquier propuesta de valor.

 

IMAGE: Mohd Azri Suratmin - 123RFUno de los artículos más recomendables que he leído últimamente está escrito por la filósofa italiana Gloria Origgi, se titula Say goodbye to the information age: it’s all about reputation now, y hace referencia a la transición progresiva desde la llamada “era de la información”, en la que lo importante estaba en tener acceso a cuanta más información fuese posible, a la “era de la reputación”, en la que lo que cuenta es ser capaz de discernir la calidad y fiabilidad de esa información, uno de los elementos que resulta fundamental introducir en la educación desde sus niveles más básicos, y al que me he referido en numerosas ocasiones.

En efecto: el signo de los tiempos ya no es “tener conexión” en un mundo en el que ya cada vez más personas la tenemos. El acceso a la información, siendo obviamente cada vez más necesario y para más cosas, ya no es lo importante: lo verdaderamente importante es saber manejar esa información con los criterios adecuados. El nuevo idiota, en su acepción más literal, es el que hace búsquedas y acepta sistemáticamente como verdad absoluta el primer resultado que aparece en la página, o el que se cree todos los bulos que le llegan a través de una pantalla o el incapaz de diferenciar una fuente confiable de una que no lo es en absoluto. La información tiene valor si está curada, verificada, filtrada, evaluada y comentada, y la reputación se convierte en la base más importante del proceso de construcción de inteligencia colectiva.

Creer en estupideces y conspiranoias sin base científica, llámense movimiento anti-vacunas, o chemtrails, o que el hombre nunca llegó a la luna o que el cambio climático no existe, te etiqueta automáticamente como un pobre ignorante desinformado incapaz de diferenciar información veraz de tonterías, la nueva categoría de pobre, al que se puede manipular con toda facilidad. Te convierte en unos de los que contribuyen con sus acciones a que las mentiras se difundan y terminemos teniendo una red – y una sociedad – peor. El idiota es el que recibe un bulo a través de un grupo de WhatsApp y, sin pararse ni siquiera a verificarlo o a pensarlo, lo circula rápidamente en varios grupos más para que vean que es “el listo”, “el enterado” o “el que se preocupa por los demás”. Cuestiones que empiezan desgraciadamente, desde la infancia: en YouTube Kids aparecen vídeos sobre conspiraciones reptilianas y negacionismo de la llegada a la luna como si fueran algo normal, algo que poner a disposición de mentes no entrenadas aún en la verificación de fuentes, cuyos padres, en muchos casos, utilizan el ordenador como baby-sitter sin supervisión de ningún tipo, a cambio de un rato de tranquilidad.

Incorporar ese tipo de habilidades en la educación desde los niveles más tempranos es la clave para evolucionar hacia la era de la reputación. No, la solución no es alejar a los niños de sus smartphones: es precisamente lo contrario, integrar esos smartphones completamente en el proceso educativo, enseñar a los niños a manejarlos no desde un punto de vista de uso de la tecnología, que resulta bastante trivial,, sino de la gestión de información. Matar de una maldita vez el libro de texto y acostumbrarnos como sociedad a que la verdad no está entre las páginas tal y tal, o en capítulo tal: la verdad está en la red, en la capacidad de filtrar, verificar y comprobar las fuentes, en la posibilidad de contrastar, de descartar y de desarrollar el juicio crítico. Esa es la habilidad fundamental que tenemos que enseñar a nuestros hijos… pero también, sin duda, a muchos de sus mayores. Hablar de adicciones es una soberana estupidez, equivocar completamente el diagnóstico: no hay adicciones, solo hay falta de educación. Estar conectado a todas horas no es necesariamente malo: es perfectamente normal si se hace con los criterios adecuados. Recurrir a la red para muchas cosas no es negativo, pero es ese criterio es lo que hay que desarrollar. Por alguna razón, hemos pretendido eliminar de la educación el concepto de confrontación, lo que nos lleva a una total complacencia y produce niños que no es que sean adictos y se vuelvan violentos si les quitamos sus dispositivos… es que son, pura y simplemente, unos enormes maleducados. La solución no está en hacer los dispositivos menos atractivos o en incorporar controles para que los padres puedan subcontratar la educación en ellos: está en educarlos mejor, en prepararlos para un mundo en el que esos dispositivos son ubicuos.

Hemos creado una herramienta poderosísima, y la hemos puesto en manos de personas sin ningún tipo de preparación, juicio crítico o comprensión del fenómeno tecnológico. Personas que creen que tener un smartphone o un ordenador les convierte en algo, cuando la realidad es que, sin el criterio adecuado, los convierten en un vehículo de desinformación, en auténticos idiotas reputacionales. Los parias de la era de la reputación lo pueden ser por motivos generacionales, de inadaptación, de falta de acceso a la educación o de ausencia de la misma por la razón que sea. Definitivamente, un mal de nuestro tiempo. Y una de las razones por las que sigo en la educación: el convencimiento de que tenemos mucho que hacer en ese sentido.

 

IMAGE: Rawpixel - 123RFUn estudio llevado a cabo en el MIT y publicado ayer en Science viene a demostrar de manera fehaciente una gran verdad que resultaba más que evidente y cuyas consecuencias llevamos mucho tiempo sufriendo: las noticias falsas se difunden hasta unas veinte veces más rápido en Twitter que las verdaderas, y los culpables de ello no son los bots, sino las personas.

El estudio analiza noticias compartidas a lo largo prácticamente toda la vida de Twitter desde sus inicios gracias a datos facilitados por la propia compañía, unas 126,000 piezas de información compartidas por unos tres millones de usuarios a lo largo de más de diez años, y concluye que de manera consistente, lo falso domina sobre lo verdadero en la red social: las noticias falsas y los rumores alcanzan a más personas, penetran de manera más profunda y se difunden mucho más rápido que las reales. 

El estudio se centra en Twitter, pero no resulta demasiado aventurado suponer que el resultado pueda extenderse a la mayoría de las redes sociales que utilizamos de manera habitual: la conclusión, de hecho, no señala un problema derivado de las redes sociales, sino un problema propio de las personas. A lo largo de un tiempo no excesivamente largo en términos de desarrollo de mecanismos y protocolos sociales, hemos creado un sistema que disminuye hasta el límite las barreras de entrada a la difusión de información, lo hemos dotado de mecanismos que incentivan la compartición y la popularidad por encima de todo, y hemos renunciado a educar a las personas en su uso. ¿Qué podría salir mal?

La educación es, en efecto, el elemento fundamental en esta cuestión: algunos posiblemente podrían pensar que es normal que un profesor apunte a su actividad como solución a todos los problemas, siguiendo el clásico de “como tengo un martillo, para mí todos los problemas son un clavo”, pero realmente creo que este problema lleva apuntándose desde hace mucho tiempo. La educación, en general, ha evolucionado poquísimo desde hace décadas. Básicamente, seguimos educándonos, a casi todos los niveles, con los mismos mecanismos que se educaron nuestros padres y nuestros abuelos: libros de texto que tenemos que estudiar, memorizar y posteriormente, repetir en un examen, en diversos formatos.

Seguimos partiendo de la base de que la información está en un repositorio de algún tipo, generalmente un libro o unos apuntes de un profesor, y asumiendo que esa es la información correcta, la que tenemos que aprendernos, la que vale. Esa dependencia del libro de texto y de la información que va “desde la página tal a la página cual”, esos mecanismos de “esto es lo que entra en el examen” nos ha llevado a perversiones importantes, como la utilización de esos libros de texto como herramientas de adoctrinamiento puestas al servicio de los más variados fines. Pero, sobre todo, nos convierten en dependientes de una fuente de información determinada, y evitan que desarrollemos mecanismos adecuados de búsqueda y cualificación de información. Esos mecanismos de verificación de fuentes, tradicionalmente, solo se enseñan – y no necesariamente de la mejor manera – en las facultades de Ciencias de la Información y Periodismo, no en el ámbito de otros tipos de enseñanza ni de manera general. Sin embargo, cada día más, resultan una habilidad fundamental en una sociedad caracterizada por la hiperabundancia y la saturación de información.

Así, vivimos ahora en una sociedad en la que muchísimas personas aceptan como verdad absoluta cualquier cosa que vean escrita en una pantalla, que toman como norma de fe el primer resultado de un buscador, o que creen a pies juntillas lo que ven compartido en una red social o en un trending topic. Y no solo que lo creen, sino que, además, lo difunden, intentando obtener así más Likes, más popularidad, ocupar un nivel de centralidad mayor o una mejor consideración en su círculo. Si vemos algo en una red que nos llama la atención o que coincide con nuestra visión del mundo, lo compartimos sin ningún tipo de mecanismo de verificación previo. Si lo vemos compartido por muchas personas, pasa a tener la característica de verdad absoluta. Esa vulnerabilidad, ese fallo del sistema, ha sido explotado de manera evidente y exitosa por quienes han aprendido a simular un amplio seguimiento, a generar una gran polarización, pero en realidad, los verdaderos culpables no son esos bots y esas cuentas falsas destinadas gestionadas desde otro sitio, sino nuestra propia ingenuidad y estupidez como sociedad, la ausencia de comportamientos que, reforzados mediante la educación, nos lleven a desarrollar mecanismos de verificación.

El recurso a las páginas de un libro de texto como vehículo transmisor de la verdad es un error terrible que tenemos que subsanar lo antes posible. La educación, desde los niveles más elementales, debería apoyarse no en libros de texto, sino en el desarrollo de la capacidad de búsqueda y cualificación de información en la red. Los alumnos tendrían que entender que la verdad no está entre las páginas de un libro ni de ninguna otra fuente designada: en realidad, la verdad está ahí fuera, y solo mediante los adecuados mecanismos activos y conscientes de contraste y verificación aprendemos a capturarla. Esto lo he escrito en numerosas ocasiones, he llamado a matar al libro de texto o a no proceder a su simple digitalización para ponerlo en un soporte más atractivo.

Aprender hoy consiste en entender que el conocimiento no está encerrado en ningún libro. Aprender es aprender a buscar. Supone manejarse entre cantidades ilimitadas y crecientes de información, y ser capaz de identificarla, cualificarla, verificarla, descartarla cuando es mala, compartirla cuando es buena… supone aprender a consultar múltiples fuentes, y guiarse por sistemas en los que el profesor se convierte en un criterio más, en un nodo más de conocimiento, en alguien que, aunque quisiese transmitir algo erróneo, no podría hacerlo sin quedar cuestionado. El conocimiento no debe provenir de un libro que todos, desde instituciones de todo tipo hasta un gobierno, tienen interés por manipular o por convertir en negocio. Pero tampoco puede ser dejado al solo criterio de un profesor que puede tener sus propios sesgos, su propia agenda o incluso sus propios monstruos. Ni al de los padres. La enseñanza debe asegurar que los niños entienden que un libro, un profesor, un periódico, un gobierno o unos padres no pueden nunca constituirse en fuente única del conocimiento, porque el conocimiento está ahí fuera, evoluciona, y hay que ir a buscarlo en cada momento. La enseñanza, cada día más, tiene que dejar de consistir en dar peces, y convertirse en enseñar a pescar. 

El actual problema que indudablemente tenemos de sociedad ingenua, estúpida, fácilmente manipulable, que comparten cualquier basura que leen en la red sin pararse a verificarla, no se soluciona con tecnología. Se soluciona cambiando, y de manera urgente, la educación. La tecnología podrá ayudar y contribuir a algunas cosas, podrá enfocarse en la detección de determinados patrones de difusión que permitan una supervisión humana, en la verificación de fuentes, o podrá servir para ayudar en esa tarea importante denominada fact-checking, pero no debería ser utilizada para tratar de crear “algoritmos de la verdad”, so pena de volver a incidir en los mismos errores. La verdadera solución, insisto, está en la educación. En cambiar la educación para adaptarla al tiempo y al entorno tecnológico que nos ha tocado vivir. Y en hacerlo, además, lo antes posible.