¿Sustituirán las máquinas a los abogados? - Abogacía EspañolaLa revista del Consejo General de la Abogacía, Abogacía Española, me pidió un artículo para su nº 108, que han titulado “¿Sustituirán las máquinas a los abogados?” (pdf), y en el que precisamente intenté analizar por qué razones el análisis de la posible sustitución de una tarea desarrollada por personas mediante una desarrollada por máquinas es, a mi juicio, erróneo.

La abogacía, como la gran mayoría de las profesiones relacionadas con la justicia, tiene un inherente componente humano que, en el estado actual del desarrollo tecnológico, sería sin duda imprudente negar o relegar al ámbito de la automatización. El desarrollo del machine learning incide precisamente en eso, en una visión de las máquinas que tiende a alejarse de la perspectiva clásica de la automatización, “máquina que ejecuta de manera repetitiva las órdenes que le hemos codificado en forma de variables, condicionales y bucles”, y se aproxima más a la idea de “máquina capaz de aprender y derivar esas reglas a partir del aprendizaje que es capaz de derivar a partir de un conjunto de datos”.

Sin embargo, que las máquinas puedan llevar a cabo tareas cada vez más sofisticadas y reservadas antes para los humanos no implica necesariamente un rumbo de colisión, dado que las tareas desarrolladas por humanos están muy lejos de mantenerse y perpetuarse de manera estática en el tiempo: el trabajo de un abogado, como ocurre con una gran cantidad de profesiones de otros tipos, está muy lejos de parecerse al que desarrollaba un abogado hace algunas décadas: utiliza otro tipo de medios, otros protocolos, requiere otras habilidades, y se apoya en tecnologías y herramientas de una manera sensiblemente diferente. Si un abogado de hace algunas décadas viese hoy trabajar a uno actual, una buena parte de su trabajo le parecería poco menos que ciencia-ficción. Dentro de algunas décadas, el paralelismo se repetirá, y los abogados utilizarán medios, protocolos, habilidades, tecnologías y herramientas que hoy nos parecerían ciencia-ficción, pero que serán las que definan la tarea de un abogado en ese momento.

Las máquinas solo sustituyen al que se niega a avanzar. En la justicia, veremos sin duda crecer la cantidad de casos que son juzgados mediante justicia algorítmica, mediante máquinas que, tras consultar la jurisprudencia, deciden qué casos son homologables a cuáles, toman en cuenta circunstancias de todo tipo que puedan afectar, y emiten un veredicto que, lógicamente, podrá ser sometido a apelación. Un avance que, en virtud del colapso de una buena parte de la administración de justicia, resulta cada día más acuciante y necesario, pero que no podremos considerar una sustitución de abogados por máquinas más allá del hecho de que la instrucción de una inmensa mayoría de esos casos hace mucho tiempo que no debería consumir horas de trabajo de personas, sino de máquinas. Dedicar horas de un profesional a casos tan mecánicos que podrían ser analizados por un simple conjunto de algoritmos es admitir que, en la práctica, ese profesional se está dedicando a tareas puramente administrativas, repetitivas y banales.

Pero más allá de la justicia algorítmica, tendremos otras connotaciones, Desarrollaremos asistentes capaces de llevar a cabo análisis predictivos de una buena parte de los elementos de la naturaleza humana, de recomendar actuaciones en función de determinadas circunstancias, de negociar en función de unos protocolos determinados, o de aliviar una buena parte del trabajo que hoy consideramos, en general, como la peor parte de lo que un abogado hace a lo largo de su día a día, todas esas tareas que, en realidad, enriquecen más bien poco y son consideradas aburridas o penosas. La máquina, en realidad, no quita el trabajo al (buen) profesional, sino que lo libera para llevar a cabo tareas de mayor valor añadido. Así ha sido desde los inicios de la revolución industrial, y existen pocas razones para pensar que no siga siendo así.

Esto implica, lógicamente, un reajuste de las capacidades y habilidades de un abogado. El abogado del futuro hablará con máquinas con la misma soltura con la que habla con personas, y eso no vendrá dado por sus habilidades para programar, porque la misma tarea de programación se habrá convertido, a ese nivel, en algo muy similar a lo que hacemos cuando hablamos con personas. En ese entorno, el abogado seguirá teniendo su papel, sus responsabilidades y su trabajo, aunque su día a día nos parezca alejado de lo que hoy conocemos. Pero seguirá ahí, como seguirán las causas que lo hacen imprescindible. La dialéctica de la sustitución es errónea, y además, dañina por lo que tiende a conllevar de resistencia al cambio. Resistencias que, aunque inútiles a medio plazo dado lo inexorable del cambio, sí pueden retrasarlo e influir en el ritmo del progreso, en la adaptación de los profesionales o en las perspectivas de competitividad de los actores implicados. Negar el cambio implica hacerse enemigo de él, con todo lo que ello conlleva. No, la máquina no sustituirá al abogado, pero los abogados que sepan utilizar máquinas sustituirán a los que no sepan. Eso sí que podemos tomarlo como seguro.

 

IMAGE: Max Pixel - CC0El gobernador del estado de California, Jerry Brown, ha aprobado una ley que, a partir de octubre de 2019, eliminará el pago de fianza en los tribunales, y recurrirá en su lugar a algoritmos que estimarán el riesgo de fuga o de cometer delitos adicionales en caso de ser puestos en libertad. El algoritmo, que los diferentes condados tendrán obligación de obtener bien a través de algún proveedor o mediante desarrollo propio, calificará ese riesgo como bajo, medio o elevado y, en función de la calificación obtenida, el juez decidirá poner al presunto delincuente en libertad o mantenerlo en custodia.

La eliminación de la fianza en forma de pago monetario se considera, como tal, un éxito para los defensores de los derechos civiles, que afirmaban que esa práctica era discriminatoria y daba lugar a una justicia diferente para ricos y pobres, en la que el hecho de no tener recursos económicos conllevaba una condena al paso por prisión que, en muchos casos, se convertía en parte del problema. En palabras de Brown,

“Today, California reforms its bail system so that rich and poor alike are treated fairly”

(“Hoy, California reforma su sistema de libertad bajo fianza para que tanto ricos como pobres reciban un trato justo”)

Sin embargo, la satisfacción de los defensores de los derechos civiles no es completa: no son pocos los temas, y particularmente aquellos relacionados con la justicia, en los que los algoritmos, alimentados con datos obtenidos del propio sistema de justicia, han mostrado sesgos que tienden a perjudicar a las personas en función de su raza o de su estatus socioeconómico. No hay nada que convierta a un algoritmo, por el hecho de serlo, en algo intrínsecamente neutral: de hecho, los algoritmos construyen sus sesgos a partir de los datos con los que son alimentados, lo que incrementa el riesgo de perpetuar sesgos que, en muchos casos, ya existían anteriormente.

Por otro lado, muchos algoritmos son definidos como propietarios para proteger la propiedad intelectual de las compañías que los desarrollan, lo que genera la aparición de cajas negras contra las que resulta difícil plantear una argumentación de defensa. Esta cuestión se puso ya de manifiesto con el uso de COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), un algoritmo desarrollado por Equivant para estimar el riesgo de reincidencia de los convictos y ayudar a los jueces a tomar decisiones sobre la extensión de sus penas. Una decisión tomada por ese algoritmo fue objeto de apelación en el caso Loomis v. Wisconsin, en el que el acusado alegó que el uso de dicho algoritmo en el cálculo de su sentencia, un veredicto de seis años de cárcel, violaba sus derechos porque evitaba que impugnase la validez científica y la precisión de la prueba al desconocer el funcionamiento del algoritmo, y porque éste tenía además en cuenta variables como el género y la raza del acusado.

La legislación aprobada por el estado de California establece un período de revisión para el funcionamiento del sistema algorítmico que culminará en 2023 tras cuatro años de funcionamiento y generación de datos, momento en el que se examinará el conjunto de decisiones tomadas mediante su uso y se tratarán de determinar los posibles efectos producidos. La llegada de los sistemas basados en algoritmos a los sistemas judiciales puede suponer un alivio importantísimo para la carga de trabajo de los tribunales, particularmente en la instrucción de muchos casos considerados habitualmente como rutinarios que podría ser realizada de manera razonablemente automatizada en sus primeras fases, con la adecuada supervisión. Sin embargo, todo indica que uno de los factores fundamentales debería ser la existencia de un requisito de transparencia que permitiese a todas las partes implicadas conocer de forma transparente el funcionamiento de esos algoritmos, las variables y los pesos empleados para la determinación de los resultados, además de asegurar que los datos utilizados para entrenar a esos algoritmos no contienen, como tales, factores que determinen la aparición de sesgos no justificados. Una tarea que no parece sencilla, pero cuyos resultados podrían ser importantísimos de cara a resolver el problema del colapso de la justicia, el protagonista de esa otra máxima que dice “justicia retrasada es justicia denegada“.

¿Cómo evolucionará el sistema aprobado por el estado de California? ¿Puede llegar a suponer una ventaja en términos de justicia y equidad con respecto al sistema anterior? ¿Qué discusiones vamos a mantener a partir del momento en que más y más algoritmos entran en nuestros sistemas judiciales?

 

¿Sustituirán las máquinas a los abogados? - Abogacía EspañolaLa revista Abogacía Española, editada por el Consejo General de la Abogacía, me pidió un artículo para su número 108 acerca de las posibilidades de inteligencia artificial como la tecnología más puntera del momento, y los retos que supondrá (y ya supone) para la abogacía en particular y para la Justicia en general. El tema me resulta interesante como todos los procesos de disrupción tecnológica, pero más ahora dado mi compromiso como vocal en el Consejo Asesor para la Innovación en la Justicia. El resultado lo han titulado “¿Sustituirán las máquinas a los abogados?” (el enlace está en Flash, aquí añado en pdf la portada de la revista y la página de mi artículo), y está encuadrado en un especial con varios artículos interesantes sobre el tema. 

Resulta fuera de toda duda que muchas de las tareas que hoy lleva a cabo un abogado serán desempeñadas en el futuro por algún tipo de aplicación de la inteligencia artificial. Los avances comerciales en ese sentido de compañías como IBM con ROSS, el asistente de búsquedas en la jurisprudencia para bufetes de abogados que muchos despachos ya han incorporado con aparentemente muy buenos resultados, tiene en principio y por diseño una aplicación mucho más directa y una mayor propuesta de valor en el ámbito del derecho anglosajón o common law, pero la compañía, interesada en abrir otros mercados, ya está llegando a acuerdos de desarrollo para promover su mejora y su aplicación al derecho continental. En principio, ROSS se plantea como un asistente para el abogado, el papel del denominado paralegal en la tradición legal norteamericana, pero indudablemente, puede suponer no solo importantes incrementos de productividad gracias a recortes en el número de horas invertidas por los abogados, sino también la posibilidad de mejorar de manera sensible la calidad de los enfoques y estrategias utilizadas.

Como en todos los ámbitos, el desarrollo tecnológico termina por generar tareas que, por su mayor eficiencia, dejan de llevarse a cabo de forma manual por un humano. Del mismo modo que en pocas generaciones, los radiólogos y especialistas en diagnóstico mediante imágenes médicas dejarán de mirar esas placas para evitar pasar por alto posibles elementos que un algoritmo sí será capaz de identificar y, eventualmente y a lo largo de generaciones, perderán la habilidad de diagnosticar manualmente, parece claro que en el futuro, pocos abogados llevarán a cabo búsquedas en la jurisprudencia de manera manual o las encargarán a un asistente, por miedo a perderse enfoques potencialmente relevantes que no escaparían a los implacables y metódicos algoritmos. Igualmente, es de esperar que una parte de la justicia evolucione para convertirse en algorítmica, que muchos delitos no lleguen siquiera a ser vistos por un humano salvo que sean objeto de recurso, que sea un algoritmo el que determina cuestiones como la posibilidad de reincidencia de un delincuente, y que ese tipo de cuestiones contribuya a solucionar en parte el colapso que sufren la mayoría de los sistemas judiciales. Cuestiones como el dilema de la caja negra o la ventaja competitiva que obtengan los que utilicen este tipo de sistemas frente a los que no lo hagan tendrán, además, que ser objeto de discusión a todos los niveles, pero tendrán que serlo desde una óptica abierta y no restrictiva si no se quiere perder el tren del progreso tecnológico y tardar más en alcanzar las ventajas que su uso pueda traer consigo.

Al abogado, sin duda, le va a tocar relacionarse con la inteligencia artificial, y eso generará todo tipo de cambios, incluidos, como no y por la parte que me toca, en el tipo de formación que es preciso impartir a quienes estén preparándose profesionalmente para trabajar en este ámbito. Pero plantear la inteligencia artificial en términos de sustitución es un error peligroso, que genera miedos, desconfianza y posiblemente, procesos de adopción más lentos. De ahí el párrafo final de mi artículo:

El mayor peligro de la tecnología no es que te deje sin trabajo, sino que te convierta en obsoleto, en inadaptado frente a los que la utilizan. No nos planteemos si la tecnología nos va a dejar o no sin trabajo: planteémonos cómo podemos mejorar nuestro trabajo con ella. Y de paso, cómo podemos mejorar la sociedad.

 

Photos in media (Feb. 2018)

Esta semana he tenido una cierta presencia en medios por dos temas no relacionados entre sí y que, dado que esta página no solo la tengo para analizar la actualidad tecnológica, sino también un poco como “mi querido diario”, me gustaría comentar brevemente.

El primero de ellos fue la publicación de una lista en Business Insider, “Los 25 españoles del mundo de la tecnología que deberías seguir en Twitter“, amablemente convertida en lista de Twitter por Juan Andrés Muñoz para facilitar su seguimiento a quien lo desee. Un detalle de Business Insider que no esperaba, pero que no deja de tener su punto, porque mi uso de Twitter a lo largo de los años ha evolucionado sensiblemente, y desde hace bastante tiempo, lo utilizo únicamente para publicar mi entrada diaria en español y en inglés y para compartir alguna noticia publicada por terceros que considero interesante.

Si Business Insider considera que soy uno de los 25 españoles que deberías seguir, por mí encantado, porque el uso de Twitter que mantengo es precisamente eso, un intento de compartir información sobre lo que creo que es interesante en el mundo de la tecnología. Twitter supone para mí una fuente considerable de tráfico, en torno al 10% en mi página en español y bastante más en mi página en inglés, y que una publicación lo destaque, y mencione además que tengo “un tono muy didáctico y divulgativo”, considerando que me dedico a la enseñanza, quiere decir que no lo estoy haciendo del todo mal :-) Recuerdo a los posibles interesados que si alguien quiere una visión más completa de mi selección de noticias tecnológicas del día escogida con cierta regularidad, puede seguirme en este tablero de Pinterest o en mi revista de Flipboard, en las que no incluyo lo que escribo, sino únicamente lo que leo.

El segundo fue la noticia de la constitución del Consejo Asesor para la Innovación en la Justicia, una iniciativa del Ministerio de Justicia creado mediante orden ministerial como grupo de trabajo de los previstos en la ley 40.3 de la ley 6/1997. Sus funciones, según el documento oficial que detalla su creación, incluyen la identificación de necesidades, obstáculos, y oportunidades para la transformación de la Administración de Justicia, la generación de ideas para el desarrollo de políticas e iniciativas innovadoras en el sector legal, la promoción de la cultura de la innovación en el sector Justicia, la identificación de retos para las políticas de innovación en Justicia, la anticipación de tendencias emergentes y su uso en Justicia, la sugerencia de reformas legales necesarias para adaptar el ordenamiento jurídico a las nuevas exigencias planteadas por la sociedad, la propuesta de fórmulas de colaboración del sector público con el sector privado y la sociedad civil en el desarrollo de la digitalización de la Justicia, y la sugerencia de iniciativas que sirvan para impulsar la convivencia entre el Derecho y la tecnología. A petición del ministro, podría igualmente pronunciarse sobre medidas o planes que esté impulsando el Departamento, proyectos normativos, o directrices y decisiones relevantes.

La participación en el Consejo Asesor para la Innovación en la Justicia no conlleva ningún tipo de remuneración. Para mí, que el gobierno de mi país considere que puedo, a título estrictamente individual y no como representante de ninguna empresa, cargo o institución, tener algo que aportar supone toda una satisfacción: participaría en cualquier caso, independientemente del color político del gobierno que me lo pidiese. La primera reunión dejó discusiones interesantes y, sobre todo, un planteamiento operativo, abierto, poco burocrático, y con sensación de poder sacar cualquier tema o comentar cualquier idea con plena libertad. A medida que vaya avanzando la iniciativa, iré comentando mis impresiones al respecto.

 

IMAGE: Alexander Kharchenko - 123RFEsto puede marcar un precedente legal muy interesante: la Director of Public Prosecutions del Reino Unido, Alison Saunders,  anuncia en una pieza de opinión en The Guardian titulada Hate is hate. Online abusers must be dealt with harshly que los delitos de incitación al odio, acoso, racismo, abuso, odio religioso y otros similares serán perseguidos exactamente igual cuando ocurran a través de la red que cuando tengan lugar fuera de ella.

Un paso hacia la normalización del mundo online como una parte ya significativa del contexto en el que discurre nuestra vida, y una cuestión de lógica palmaria: que te insulten o te acosen a través de una red social no es menos grave que el que lo hagan mediante pintadas en la puerta de tu casa o en plena calle, y en muchos casos, tiene el mismo o incluso peores efectos.

La idea de que es necesario legislar de nuevo para incluir las situaciones derivadas de la llegada de internet se tambalea: los problemas son los mismos de siempre, y las leyes que aplican deben ser, con escasísimas excepciones, las mismas que aplicaban antes de que internet existiese, si es que alguien todavía recuerda cómo era el mundo antes de internet. Las leyes provienen del consenso social obtenido durante mucho tiempo, y tratar de crear nueva legislación para internet es algo que solo se asienta en la ignorancia del contexto online y que en la práctica totalidad de casos supone hiperlegislar, algo que nunca conduce a buen puerto. Los delitos son igual de delitos online que offline, con todo lo que ello debe conllevar: si te roban en la red, es un delito de robo, con el único atenuante de no incluir violencia, pero un robo al fin y al cabo, y ese debe ser el caso para todos los delitos. Las excepciones, en un contexto cada día más normalizado, tienen cada vez menos sentido.

En el caso de Alemania, este tipo de situaciones se dan desde hace ya bastante tiempo: muchas de las cuestiones que son delitos de odio fuera de la red, como la exhibición de simbología nazi, la exaltación de sus posturas ideológicas, la negación del holocausto o la incitación al odio o la violencia por razones raciales o religiosas ya son castigadas del mismo modo tengan lugar en la calle o en la red. Sin embargo, las leyes alemanas parecen excederse en la consideración de la responsabilidad al pretender imponer multas multimillonarias de más de cincuenta millones de euros a las plataformas sociales si no eliminan rápidamente este tipo de contenidos, algo que no sucede fuera de la red (no se multa a un ayuntamiento o al propietario de un edificio por no borrar una pintada rápidamente, por ejemplo) y que marcaría un tratamiento diferencial contra el mundo online que no parece tener demasiado sentido y confunde la responsabilidad de los usuarios, que son los que realmente cometen el delito y los que deben sufrir las consecuencias del mismo, con la de la plataforma, que no es más que el contexto en el que tienen lugar las acciones punibles.

Considerar la red como un entorno diferente ha traído numerosos problemas. La consideración del trolling como “travesuras” ha traído como consecuencia una falsa y peligrosa normalización del discurso del odio, del insulto y del acoso en la red, algo que nunca debería haber ocurrido y que es preciso corregir. Poner una barbaridad en Twitter como reacción a algo es ni más ni menos que eso, poner una barbaridad, y debe conllevar las mismas consecuencias que gritárselo a alguien a la cara en la vía pública o que pintarlo en su portal: si supone acoso, incitación al odio, difamación, abuso, etc. debe tener esa consideración a todos los efectos independientemente de que se haya hecho en la red o fuera de ella, y los usuarios tendrán que tener la madurez suficiente como para entenderlo así, o afrontar las consecuencias.

A medida que el pasar tiempo en la red se convierte en cada vez más normal, tenemos que empezar a considerar el contexto de la red como una parte más de nuestro contexto diario, sujeto a las mismas reglas y leyes, y los jueces tienen que acostumbrarse a pensar en el entorno online como una parte más en la que la justicia se imparte de la misma manera y con las mismas leyes que en un entorno offline con el que tienen, posiblemente, todavía más familiaridad. Con una internet que cuenta su edad ya en décadas y con más de la mitad de la población mundial conectada a la red, ideas como esta representan la única manera lógica de proceder y de avanzar.