¿Sustituirán las máquinas a los abogados? - Abogacía EspañolaLa revista del Consejo General de la Abogacía, Abogacía Española, me pidió un artículo para su nº 108, que han titulado “¿Sustituirán las máquinas a los abogados?” (pdf), y en el que precisamente intenté analizar por qué razones el análisis de la posible sustitución de una tarea desarrollada por personas mediante una desarrollada por máquinas es, a mi juicio, erróneo.

La abogacía, como la gran mayoría de las profesiones relacionadas con la justicia, tiene un inherente componente humano que, en el estado actual del desarrollo tecnológico, sería sin duda imprudente negar o relegar al ámbito de la automatización. El desarrollo del machine learning incide precisamente en eso, en una visión de las máquinas que tiende a alejarse de la perspectiva clásica de la automatización, “máquina que ejecuta de manera repetitiva las órdenes que le hemos codificado en forma de variables, condicionales y bucles”, y se aproxima más a la idea de “máquina capaz de aprender y derivar esas reglas a partir del aprendizaje que es capaz de derivar a partir de un conjunto de datos”.

Sin embargo, que las máquinas puedan llevar a cabo tareas cada vez más sofisticadas y reservadas antes para los humanos no implica necesariamente un rumbo de colisión, dado que las tareas desarrolladas por humanos están muy lejos de mantenerse y perpetuarse de manera estática en el tiempo: el trabajo de un abogado, como ocurre con una gran cantidad de profesiones de otros tipos, está muy lejos de parecerse al que desarrollaba un abogado hace algunas décadas: utiliza otro tipo de medios, otros protocolos, requiere otras habilidades, y se apoya en tecnologías y herramientas de una manera sensiblemente diferente. Si un abogado de hace algunas décadas viese hoy trabajar a uno actual, una buena parte de su trabajo le parecería poco menos que ciencia-ficción. Dentro de algunas décadas, el paralelismo se repetirá, y los abogados utilizarán medios, protocolos, habilidades, tecnologías y herramientas que hoy nos parecerían ciencia-ficción, pero que serán las que definan la tarea de un abogado en ese momento.

Las máquinas solo sustituyen al que se niega a avanzar. En la justicia, veremos sin duda crecer la cantidad de casos que son juzgados mediante justicia algorítmica, mediante máquinas que, tras consultar la jurisprudencia, deciden qué casos son homologables a cuáles, toman en cuenta circunstancias de todo tipo que puedan afectar, y emiten un veredicto que, lógicamente, podrá ser sometido a apelación. Un avance que, en virtud del colapso de una buena parte de la administración de justicia, resulta cada día más acuciante y necesario, pero que no podremos considerar una sustitución de abogados por máquinas más allá del hecho de que la instrucción de una inmensa mayoría de esos casos hace mucho tiempo que no debería consumir horas de trabajo de personas, sino de máquinas. Dedicar horas de un profesional a casos tan mecánicos que podrían ser analizados por un simple conjunto de algoritmos es admitir que, en la práctica, ese profesional se está dedicando a tareas puramente administrativas, repetitivas y banales.

Pero más allá de la justicia algorítmica, tendremos otras connotaciones, Desarrollaremos asistentes capaces de llevar a cabo análisis predictivos de una buena parte de los elementos de la naturaleza humana, de recomendar actuaciones en función de determinadas circunstancias, de negociar en función de unos protocolos determinados, o de aliviar una buena parte del trabajo que hoy consideramos, en general, como la peor parte de lo que un abogado hace a lo largo de su día a día, todas esas tareas que, en realidad, enriquecen más bien poco y son consideradas aburridas o penosas. La máquina, en realidad, no quita el trabajo al (buen) profesional, sino que lo libera para llevar a cabo tareas de mayor valor añadido. Así ha sido desde los inicios de la revolución industrial, y existen pocas razones para pensar que no siga siendo así.

Esto implica, lógicamente, un reajuste de las capacidades y habilidades de un abogado. El abogado del futuro hablará con máquinas con la misma soltura con la que habla con personas, y eso no vendrá dado por sus habilidades para programar, porque la misma tarea de programación se habrá convertido, a ese nivel, en algo muy similar a lo que hacemos cuando hablamos con personas. En ese entorno, el abogado seguirá teniendo su papel, sus responsabilidades y su trabajo, aunque su día a día nos parezca alejado de lo que hoy conocemos. Pero seguirá ahí, como seguirán las causas que lo hacen imprescindible. La dialéctica de la sustitución es errónea, y además, dañina por lo que tiende a conllevar de resistencia al cambio. Resistencias que, aunque inútiles a medio plazo dado lo inexorable del cambio, sí pueden retrasarlo e influir en el ritmo del progreso, en la adaptación de los profesionales o en las perspectivas de competitividad de los actores implicados. Negar el cambio implica hacerse enemigo de él, con todo lo que ello conlleva. No, la máquina no sustituirá al abogado, pero los abogados que sepan utilizar máquinas sustituirán a los que no sepan. Eso sí que podemos tomarlo como seguro.

 

SimpleFunsEl artículo que posiblemente leas y veas comentado hoy si tus listas de suscripciones están mínimamente completas es este de James Bridle titulado  Something is wrong on the internet, un texto largo y detallado en el que el autor se preocupa por la proliferación de determinados vídeos en YouTube Kids, un producto diseñado por la compañía para proporcionar vídeos adecuados a los niños y que muchos padres tienden a emplear como auténtico “dispositivo apaganiños”, con contenidos completamente inadecuados desde múltiples puntos de vista, y apoyándose en los algoritmos de recomendación de la plataforma para encabezar las listas de popularidad y obtener ingresos publicitarios.

La presencia de este tipo de vídeos inapropiados ha sido puesta de manifiesto en otras ocasiones: contenidos que aprovechan personajes muy conocidos por los niños y los hacen protagonizar escenas violentas o de otros tipos, habitualmente con grafismos extremadamente simples, confeccionados con muy poco esfuerzo. El análisis de Bridle incide no solo en los vídeos como tales, sino más bien en el mecanismo de una plataforma que no solo posibilita este tipo de comportamientos, sino que los recompensa mediante sus algoritmos y el sistema económico de premiar la atención al que da lugar. Un análisis interesante, que pone el peso en la plataforma, en una YouTube que no parece hacer mucho de cara a la eliminación de este tipo de contenidos más allá de ofrecer sistemas que permiten que sean denunciados o marcados como inapropiados, y que no ha tenido ningún éxito por el momento de cara a su erradicación.

Sin embargo, el verdadero análisis, para mí, es todavía más desasosegante: indudablemente, internet tiene un problema. La combinación de factores como el desarrollo sin límites de la economía de la atención, los algoritmos que premian el sensacionalismo o el contenido más impactante, las posibilidades de anonimato o de trazabilidad compleja y otra serie de características de la red han dado lugar a un sistema en el que constantemente nos sorprendemos encontrando cosas que, si hacemos caso a la gran mayoría de observadores, no deberían estar ahí. Pero en realidad, el verdadero problema no está en internet: está en la naturaleza humana.

Me explico: todo sistema es susceptible de ser utilizado de diversas maneras. La ausencia de regulación para evitar comportamientos definidos o considerados nocivos, o los sistemas de regulación ineficientes, generan abusos de numerosos tipos. Podemos constatarlos en todas partes: a la popularización del correo electrónico sigue la proliferación del spam. ¿Es el spam un problema de diseño, algo de lo que debamos hacer responsables a los inventores del protocolo del correo electrónico o a los que comercializan herramientas para que los consumidores lo usen? No, es un problema de que una serie de actores descubren que pueden utilizar los protocolos del correo electrónico para enviar con un coste bajísimo mensajes comerciales a una gran cantidad de usuarios incautos, inexpertos o directamente idiotas, y aprovechar para separarlos de su dinero. Ese comportamiento es constante: cada servicio que surge cuenta con su caterva de aprovechados dispuestos a utilizarlo para engañar, robar, manipular o retorcer su propósito original. Las redes sociales son plataformas para compartir contenidos, pero convenientemente retorcidas, se convierten en herramientas para manipular un proceso electoral. YouTube sirve para ver vídeos, pero si la retorcemos adecuadamente, podemos conseguir que sirva para engañar a niños con contenidos inadecuados y ganar dinero a costa de exponerlos a contenidos a los que no deberían ser expuestos. Da igual el ejemplo que propongas: todos cuentan con usos inadecuados, inmorales o directamente delictivos que algunos pretenden utilizar para su beneficio. ¿Surgen los ICOs? Rápidamente proliferan personajes nocivos dispuestos a confundir a potenciales inversores y robarles su dinero.

¿Estamos hablando de un problema de internet? No, hablamos de un problema de la naturaleza humana. En ausencia de una regulación efectiva debido a la velocidad con la que se desarrollan y popularizan las nuevas herramientas, los delincuentes evolucionan y se convierten en los primeros colonizadores de cada nuevo nicho ecológico que surge en el planeta red. Para cuando se defina como delito subir vídeos a YouTube y aprovechar sus algoritmos para incrementar su popularidad, los delincuentes estarán haciendo otras cosas completamente diferentes. Probablemente un buen abogado encuentre siempre suficiente indefinición en esos comportamientos como para conseguir que salgan absueltos, y el simple principio de “no sé como definirlo pero lo reconozco cuando lo veo”, el I know it when I see it que podría contribuir con algo tan inherentemente humano como el sentido común a aliviar el problema, no se utiliza lo suficiente. No parecen existir tribunales ni jueces suficientes como para solventar los problemas que detectamos en internet todos los días, y si existiesen, se verían confrontados con una realidad compleja de fueros y sistemas judiciales nacionales tratando de mala manera de operar en un entorno global y sin fronteras. Lo que un estado intenta definir como un comportamiento execrable y encuadrar en un tipo penal evidente que sin duda ya existía, en otro estado está completamente sin legislar, o se sitúa en un limbo en el que las leyes resultan de imposible aplicación. Los mecanismos sociales de control, elementos como la reputación o la censura social que a otra escala y en otros períodos históricos se han convertido en elementos que ponían relativo coto a determinados comportamientos, tampoco funcionan, porque no se desarrollan con la necesaria velocidad. Cuando un individuo malintencionado encuentra una manera de aprovecharse de una plataforma determinada, la mayor parte de la sociedad ni siquiera es capaz aún de entender qué es lo que está haciendo.

Hemos construido una herramienta que no sabemos controlar, y que muchos consiguen retorcer para su beneficio incurriendo en comportamientos que cualquiera con un mínimo sentido común encontraría castigables, pero que en rarísimas ocasiones son castigados. Y de nuevo: el problema no está en la red, sino en la naturaleza humana, en las más profundas miserias de nuestra condición. ¿Cómo definir a un tipo que convierte en medio de vida el exponer a niños a contenidos completamente inadecuados y censurables? ¿Qué castigo debería encontrar si la justicia funcionase? ¿Cómo plantearse desincentivar un comportamiento semejante? ¿Cómo adaptar la legislación y los sistemas que tratan de poner bajo control lo peor de la naturaleza humana en un marco que evoluciona tan rápidamente?

 

IMAGEN: Thomas Reichhart - 123RFMi columna de El Español de esta semana se titula “Convenio de Ginebra digital“, y reflexiona sobre la idea introducida por el presidente de Microsoft, Brad Smith, de crear una nueva versión del conocido Convenio de Ginebra para el derecho internacional humanitario, revisado y ampliado ya en tres ocasiones tras su primera versión, para intentar detener la escalada en el creciente uso del state-sponsored hacking, el uso de la red para tratar de espiar a las administraciones de otros países o de atacar y dañar sus infraestructuras críticas

Siempre he sido muy crítico con la tendencia a la hiperlegislación, el intento de reescribir las leyes para supuestamente adaptarlas al nuevo contexto que supone internet. Internet no requiere nuevas leyes ni leyes especiales, requiere simplemente que los jueces tengan la flexibilidad suficiente como para interpretar lo que es delito o no lo es en un entorno diferente. La mejor manera de analizar cualquier acción presuntamente punible en internet es retirar internet del escenario y plantearse cómo la juzgaríamos si se hubiese producido fuera de internet. Un robo es un robo, sea en internet o fuera de él, una difamación es una difamación en la red o en la calle, y un ataque a un país lo es independientemente de que se produzca a través de internet o mediante un espía con gabardina y gafas oscuras. Por eso, la idea de no promover leyes como tales, sino foros de discusión en los que se llame a las cosas por su nombre y se aíslen los problemas me resulta sensiblemente más atractiva que la idea de dictar nuevas leyes a diestro y siniestro cuando las que existían ya eran claramente suficientes y respondían a un consenso social obtenido a lo largo de mucho tiempo.

Uno de los principales problemas de internet es el hecho de que en toda innovación surgen, de manera generalmente muy rápida, un conjunto de aprovechados, malintencionados o directamente delincuentes que intentan extraer un provecho ilícito de las características del nuevo entorno. Habitualmente, la respuesta de la ley en este sentido es lenta e ineficiente, y suele serlo mucho más en los países que provienen de la civil law frente a las que tienen su base en la common law, que se apoya en los casos precedentes y que, por tanto, tiende a tener una flexibilidad y adaptabilidad muy superior. Cuando la actuación de personas que retuercen el nuevo entorno para obtener un beneficio ilícito, llámense dialers, spammers, scammers, phishersladrones de identidad, domainers o lo que sea, se convierte en un desincentivo a la difusión de la innovación, la ley tiene que actuar de manera rápida y decisiva, y poner coto a esos abusos de manera inmediata sin que el hecho de que el delito se produzca en internet tenga ningún tipo de influencia sobre su condición de delito. El hecho de que estemos viviendo auténticos episodios de guerra entre países por el espionaje y los ciberataques a través de la red y la comunidad internacional no esté haciendo nada por tipificar y definir este tipo de cuestiones, deslindando claramente lo que son y separándolos de las posibles zonas grises, tiene mucho que ver con lo que ocurre en ese otro ámbito, en el de la definición de los delitos de otros tipos.

¿Necesitamos reeditar el Convenio de Ginebra para adaptarlo al entorno digital? No lo sé. El contexto de las relaciones internacionales tiene una regulación muy compleja e indudablemente enrevesada, pero tener determinadas definiciones por escrito en un documento que provenga de un consenso general y que pueda ser invocado, o utilizado eventualmente como herramienta sancionadora, posiblemente no viniese nada mal. Y de paso, repensar la lentitud con la que la justicia, en general, tiende a adaptarse a los nuevos entornos definidos por la tecnología, y lo que nos termina costando que eso sea así.

 

IMAGEN: Thomas Reichhart - 123RFMi columna de El Español de esta semana se titula “Convenio de Ginebra digital“, y reflexiona sobre la idea introducida por el presidente de Microsoft, Brad Smith, de crear una nueva versión del conocido Convenio de Ginebra para el derecho internacional humanitario, revisado y ampliado ya en tres ocasiones tras su primera versión, para intentar detener la escalada en el creciente uso del state-sponsored hacking, el uso de la red para tratar de espiar a las administraciones de otros países o de atacar y dañar sus infraestructuras críticas

Siempre he sido muy crítico con la tendencia a la hiperlegislación, el intento de reescribir las leyes para supuestamente adaptarlas al nuevo contexto que supone internet. Internet no requiere nuevas leyes ni leyes especiales, requiere simplemente que los jueces tengan la flexibilidad suficiente como para interpretar lo que es delito o no lo es en un entorno diferente. La mejor manera de analizar cualquier acción presuntamente punible en internet es retirar internet del escenario y plantearse cómo la juzgaríamos si se hubiese producido fuera de internet. Un robo es un robo, sea en internet o fuera de él, una difamación es una difamación en la red o en la calle, y un ataque a un país lo es independientemente de que se produzca a través de internet o mediante un espía con gabardina y gafas oscuras. Por eso, la idea de no promover leyes como tales, sino foros de discusión en los que se llame a las cosas por su nombre y se aíslen los problemas me resulta sensiblemente más atractiva que la idea de dictar nuevas leyes a diestro y siniestro cuando las que existían ya eran claramente suficientes y respondían a un consenso social obtenido a lo largo de mucho tiempo.

Uno de los principales problemas de internet es el hecho de que en toda innovación surgen, de manera generalmente muy rápida, un conjunto de aprovechados, malintencionados o directamente delincuentes que intentan extraer un provecho ilícito de las características del nuevo entorno. Habitualmente, la respuesta de la ley en este sentido es lenta e ineficiente, y suele serlo mucho más en los países que provienen de la civil law frente a las que tienen su base en la common law, que se apoya en los casos precedentes y que, por tanto, tiende a tener una flexibilidad y adaptabilidad muy superior. Cuando la actuación de personas que retuercen el nuevo entorno para obtener un beneficio ilícito, llámense dialers, spammers, scammers, phishersladrones de identidad, domainers o lo que sea, se convierte en un desincentivo a la difusión de la innovación, la ley tiene que actuar de manera rápida y decisiva, y poner coto a esos abusos de manera inmediata sin que el hecho de que el delito se produzca en internet tenga ningún tipo de influencia sobre su condición de delito. El hecho de que estemos viviendo auténticos episodios de guerra entre países por el espionaje y los ciberataques a través de la red y la comunidad internacional no esté haciendo nada por tipificar y definir este tipo de cuestiones, deslindando claramente lo que son y separándolos de las posibles zonas grises, tiene mucho que ver con lo que ocurre en ese otro ámbito, en el de la definición de los delitos de otros tipos.

¿Necesitamos reeditar el Convenio de Ginebra para adaptarlo al entorno digital? No lo sé. El contexto de las relaciones internacionales tiene una regulación muy compleja e indudablemente enrevesada, pero tener determinadas definiciones por escrito en un documento que provenga de un consenso general y que pueda ser invocado, o utilizado eventualmente como herramienta sancionadora, posiblemente no viniese nada mal. Y de paso, repensar la lentitud con la que la justicia, en general, tiende a adaptarse a los nuevos entornos definidos por la tecnología, y lo que nos termina costando que eso sea así.

 

IMAGE: Anton Brand - 123RFUn juez brasileño ordena a los proveedores de telecomunicaciones del país interrumpir el servicio de WhatsApp, utilizado por más de cien millones de personas, y deniega posteriormente la apelación de la compañía ante lo evidentemente desproporcionado de la medida. ¿Las razones para el bloqueo? La negativa de la compañía a facilitar datos sobre conversaciones de usuarios presuntamente implicados en delitos de tráfico de drogas. ¿El problema? Que desde la puesta en marcha del cifrado de extremo a extremo de sus conversaciones, la compañía simplemente no puede suministrar detalles de esas conversaciones, porque sencillamente no es capaz de acceder a ellas: no solo están cifrados, sino que ni siquiera son almacenados en los servidores de la compañía

La medida proviene del mismo juez, Marcel Maia Montalvão, que el pasado día 1 de marzo ordenó el arresto del máximo ejecutivo de Facebook, propietario de WhatsApp, por la misma causa: no facilitar datos de cuentas investigadas por delitos relacionados con tráfico de drogas. Todo indica que la actual prohibición del uso de WhatsApp sería parte de este mismo caso. Obviamente, el juez manifiesta no solo una obsesión enfermiza con la compañía que afecta gravemente a su capacidad para impartir justicia, sino que además exhibe una desmesura, una irresponsabilidad y una incapacidad para entender el funcionamiento de las herramientas que debería claramente llevarle a ser retirado de sus funciones.

El caso es, claramente, una muestra del problema que suponen los jueces “de gatillo fácil” cuando se pronuncian sobre casos relacionados con entornos tecnológicos complejos. La incapacidad para entender los detalles del funcionamiento una tecnología pueden hacer que un juez crea que, en efecto, una compañía se está escudando en un argumento débil para evitar colaborar con la justicia, y dispare desde la cintura cuando, en realidad, lo único que está manifestando es, como en este caso, la incapacidad de la compañía para suministrar unos datos que no posee. En estos casos resulta patente la necesidad de asesorar al juez, pero ¿y si este se niega a dejarse asesorar, y prefiere actuar de una manera tan contundente como impidiendo el derecho a comunicarse de cien millones de personas? ¿A alguien se le ocurre pensar qué ocurriría si un juez decretase la prohibición de utilizar el teléfono en un país? Dado el estado de difusión y el nivel de uso de WhatsApp en este momento en un país como Brasil, prohibir su uso e impedirlo por la vía de los hechos amenazando a las operadoras con una multa de $142,000 al día supone prácticamente lo mismo, eliminar un canal de comunicación ampliamente utilizado por una gran parte de la población del país.

Mantener a los jueces razonablemente educados con respecto a los cambios del entorno es cada día una responsabilidad más acuciante del poder judicial. Para un juez, “venirse arriba” ordenando un bloqueo a nivel nacional de una herramienta popular tendría que entenderse no como una medida de presión a la compañía ni como una manifestación de su autoridad, sino como un problema grave en su raciocinio, un problema de desfase con los tiempos en los que vive, un anacronismo absurdo más digno de un mal chiste que de una situación real. Se supone que la sociedad confía a sus jueces la capacidad de administrar justicia a la hora de resolver una controversia o decidir el destino de un imputado, tomando en cuenta las evidencias o pruebas presentadas en un juicio. ¿Puede llevarse a cabo esa importantísima responsabilidad cuando se evidencia una total y absoluta ignorancia sobre el mundo en que vivimos, o una profunda animadversión hacia una persona o compañía determinada? ¿No deberían interpretarse este tipo de actitudes tan profundamente desmesuradas como prueba de una evidente incapacidad para impartir justicia en el entorno actual, y actuarse en consecuencia mediante un procedimiento de revisión rápida y proporcionando al juez en cuestión la oportunidad de reciclarse asistiendo a los cursos adecuados? ¿Qué nos hace pensar que la formación continua y el reciclaje de los jueces es menos importante que el de otros actores sociales que sí lo llevan a cabo? 

Cien millones de personas privadas de su canal de comunicación favorito, porque un juez quiere obligar a una compañía a hacer algo que técnicamente es incapaz de hacer. ¿Qué hacer cuando la justicia deja de ser justicia y se convierte en un mal chiste?