IMAGE: Nick Youngson CC BY-SA 3.0 Alpha Stock ImagesUna compañía es un ente relativamente abstracto, formado por una amalgama de individuos diversos, y con un fin último que, en la mayoría de los casos, tiende a identificarse con un parámetro económico, con una frase del tipo “generar valor a los accionistas”. A lo largo de la historia, han sido muchas las compañías que, de una manera u otra, han demostrado supeditar claramente esa máxima de los beneficios a prácticamente cualquier otro concepto, desde IBM en la década de los ’30 y su colaboración con el régimen nazi para el holocausto, hasta, más recientemente, el envenenamiento sistemático e irresponsable del planeta por parte de Volkswagen. Si nos atenemos a los hechos, todo indica que lo más parecido a algo que podríamos calificar como “ética corporativa” es ese concepto denominado responsabilidad social corporativa, que en demasiados casos ha demostrado clara y tristemente ser poco más que una herramienta propagandística para justificar unas pocas frases grandilocuentes en una memoria anual.

Sin embargo, frente a la ética (o falta de ética) corporativa, está la ética de los empleados y su capacidad para organizarse. En la economía actual, los empleados, cada vez más, se convierten en una fuerza importante a la hora de corregir acciones emprendidas por sus empresas si, por la razón que sea, las juzgan inaceptables. Así, hemos podido ver recientemente el caso de Google frente al Proyecto Maven del Departamento de Defensa: un contrato indudablemente lucrativo para la compañía, en el que participan además muchas otras compañías tecnológicas – que en su gran mayoría no han dicho ni esta boca es mía – y que tiene como fin el desarrollo de algoritmos destinados a reconocer imágenes tomadas por drones en el campo de batalla, imágenes de personas cuyo destino es bien conocido por cualquiera con un mínimo de inteligencia y escrúpulos. La resistencia a la colaboración de la compañía en el proyecto comenzó con algunas dimisiones, continuó con una carta firmada por miles de empleados, y terminó con la no renovación del contrato con el Departamento de Defensa, así como con la publicación de unos principios éticos que pretenden marcar la actuación de la compañía con respecto al desarrollo de la inteligencia artificial. 

Ahora, el turno le toca a Microsoft: la compañía que el pasado enero se mostraba “orgullosa de colaborar con la Immigration and Customs Enforcement (ICE)“, se ha encontrado, tras la fortísima polémica desencadenada en torno a la demencial práctica de esta agencia, bajo la disfuncional administración Trump, de separar a las familias demandantes de asilo de sus hijos en la frontera e internar a esos niños, solos, en centros de custodia. Las protestas en torno a esta salvaje práctica no se han hecho esperar, y obviamente, han sido secundadas por algunas compañías tecnológicas y por empleados de Microsoft, que han comenzado protestas a través de Twitter y han puesto a la compañía en una situación obviamente complicada. Ante el alboroto y las protestas, la compañía intentó primero eliminar la entrada del blog corporativo en la que hablaba de su colaboración con ICE, y posteriormente ha decidido, ante las amenazas de dimisiones entre sus empleados y las llamadas al boicot, publicar una declaración en la que se manifiesta “consternada por la separación forzada de familias inmigrantes en la frontera“. En sucesivas aclaraciones, la compañía ha afirmado que

“… queremos ser claros: Microsoft no está trabajando con el Servicio de Inmigración y Aduanas de los Estados Unidos o Aduanas y Protección Fronteriza de EE. UU. en proyectos relacionados con la separación de niños de sus familias en la frontera, y contrariamente a algunas especulaciones, no somos conscientes de que los servicios de Azure estén siendo utilizados para este fin. Como compañía, Microsoft está consternada por la separación forzada de niños de sus familias en la frontera. La unificación familiar ha sido un principio fundamental de la política y la ley estadounidense desde el final de la Segunda Guerra Mundial. Como compañía, Microsoft ha trabajado durante más de veinte años para combinar la tecnología con el estado de derecho para garantizar que los niños refugiados e inmigrantes puedan permanecer con sus padres. Necesitamos continuar construyendo sobre esta noble tradición, en lugar de cambiar el rumbo ahora. Instamos a la Administración a cambiar su política, y al Congreso a aprobar legislación que garantice que los niños no estén separados de sus familias.”

Una declaración que deja en un vago “no somos conscientes de ello” el si las herramientas de la compañía son utilizadas o no por ICE, y que podría no ser suficiente para apaciguar las protestas, que podrían pedir la suspensión completa del contrato con la agencia hasta que la práctica sea eliminada.

En cualquier caso, dos casos que vienen a dejar una cosa cada vez más clara: si no estás de acuerdo con las prácticas de tu compañía, si te parecen éticamente reprobables, no estás obligado a colaborar con ellas, y deberías hacer caso a tu conciencia, oponerte y protestar. Pero una cosa es protestar, una acción que podría costarte el puesto de trabajo, en una empresa norteamericana, en un mercado de trabajo expansivo y con múltiples opciones, y en puestos en los que, en muchos casos, basta con ponerse en ese mercado para obtener otro puesto en otra compañía, y otra es hacerlo cuando no te consta que otros vayan a secundarte, cuando estás en un país con un mercado de trabajo complicado o con un índice de paro elevado, o cuando tu puesto no te garantiza un movimiento fácil a otra compañía. Los mercados de oferta y los de demanda, en este sentido, es previsible que no funcionen igual.

¿Tiene un precio la ética? ¿Solo puede comportarse éticamente aquel que puede permitírselo? Obviamente no debería ser así, y que empleados de algunas compañías norteamericanas empiecen a sentar precedente en este sentido es algo que podría llegar a tener un valor en el futuro. Al menos, si las compañías no hacen gala de un comportamiento ético por sí mismas, podremos contar con la ética de sus empleados para ponerlas en situaciones en las que, por las buenas o por las malas, tengan que cumplir con unos principios y con la sociedad en su conjunto. Que este tipo de comportamientos se generalizasen a otros países y otras compañías sería de lo más deseable, por el bien de todos. Pero sencillo, sin duda, no va ser.

 

IMAGE: Nick Youngson CC BY-SA 3.0 ImageCreatorGoogle ha publicado su declaración de principios con respecto a la inteligencia artificial, un texto cuidado, de propósito necesariamente amplio y que pretende cubrir todos los supuestos acerca de los posibles usos de su tecnología. La declaración constituye un documento breve y de lectura muy recomendable que, sobre todo, plantea muchas reflexiones sobre el mundo al que nos dirigimos y las reglas que, necesariamente, debemos plantearnos de cara a su evolución.

La compañía llevaba tiempo trabajando en una reflexión de este tipo, del mismo modo que se está trabajando mucho en este sentido en otros ámbitos: aquellos que afirman que la publicación del documento es una reacción a la reciente dimisión de una docena de trabajadores y la petición firmada por varios miles más en protesta por la participación de la compañía en el Proyecto Maven del Departamento de Defensa, destinado a reconocer imágenes tomadas por drones en el campo de batalla, o bien no conocen a la compañía, o confunden claramente los factores coyunturales con fundacionales, la forma con el fondo. La regulación de la inteligencia artificial no es un tema en absoluto nuevo, se está discutiendo en numerosos foros, en algunos de los cuales participo personalmente, y Google, como uno de los actores más relevantes y avanzados en este tema, no ha hecho más que poner en negro sobre blanco una declaración de principios que proviene de un proceso de reflexión largo y continuado en el tiempo.

Probablemente influenciados por la coincidencia en el tiempo de esas dos circunstancias, la mayor parte de los titulares que leerás en las noticias se refieren a la importancia de la declaración de Google describiéndola de manera simplista como “Google promete que su AI no será utilizada para el desarrollo de armas o violaciones de los derechos humanos“, cuando la realidad es que basta una lectura superficial del documento para entender que sus intenciones van mucho más allá. La mención a las armas, de hecho, ocupa un muy breve espacio en una sección de propósito aclaratorio titulada “AI applications we will not pursue”, y se limita a decir que la compañía no trabajará en “armas u otras tecnologías cuyo principal propósito o implementación es causar o facilitar directamente lesiones a las personas”, pero que “seguirán trabajando con gobiernos o con los militares en otras áreas que podrán incluir ciberseguridad, entrenamiento, reclutamiento militar, cuidado de salud para veteranos o búsqueda y rescate”.

¿Qué es lo importante, por tanto, en la declaración de principios de Google? En primer lugar, la importancia de llevar a cabo esta reflexión en todos los ámbitos, y de hacerlo de una manera no tremendista, bien informada, y con un adecuado nivel de realismo, sin imaginarse robots asesinos en escenarios apocalípticos que nos atacan en cada esquina, o supuestas inteligencias superiores que deciden librarse de los humanos porque les resultan molestos. No, cuando hablamos de inteligencia artificial no hablamos de inteligencia de propósito general, y no lo haremos durante mucho tiempo, porque inteligencia artificial, a día de hoy, no es eso. De manera realista, hablamos en realidad de aplicaciones que tienen más que ver con qué productos son ofrecidos a qué clientes potenciales, con políticas de pricing, con la prevención del abandono o churn, la detección de posibles patrones de actividad fraudulenta, las opciones en la determinación del marketing mix, y sin duda, cada vez más cosas. Menos morboso que los robots asesinos, sin duda, pero enormemente importante y con un potencial muy importante para hacer las cosas mal.

De ahí que uno de los puntos más relevantes declaración de principios, que incluye cuestiones como “ser socialmente beneficioso”, “evitar la creación o el refuerzo de sesgos”, “ser responsable ante las personas”, “incorporar principios de privacidad” o “ser puesto a disposición para usos acordes con estos principios” (lo que implica impedir su uso a quienes no los respeten), me han parecido puntos como el “mantener altos estándares de excelencia científica” o, sobre todo, “ser construido y probado con seguridad”: muchos de los problemas que la tecnología está planteando a medida que avanza provienen no del hecho de que se diseñe con objetivos potencialmente perjudiciales, sino al hecho de que se gestione de manera incorrecta, con una seguridad inadecuada, con errores graves en los procedimientos o sin tener en cuenta que en el mundo existen, obviamente, personas malintencionadas o con intereses oscuros. No, el “Oooops!”, la candidez o la ingenuidad sin límites no pueden seguir sirviendo como disculpas cuando hablamos de desarrollo de tecnologías con un potencial importante para usos perjudiciales o malintencionados, y Google reafirma su compromiso de cara a este tipo de problemas, un compromiso que que va mucho más allá del “no seremos malvados”. Esto, por supuesto, no exime a la compañía de la posibilidad de cometer errores, que pueden suceder en cualquier proceso, pero si reafirma una importante voluntad de no cometerlos, de someterse a procesos rigurosos y de tratar de evitarlos a toda costa. 

La reflexión sobre los principios éticos asociados al desarrollo de algoritmos de inteligencia artificial es importante, y va a producirse a todos los niveles. Tan importante como llevarla a cabo es conseguir que se produzca en el ámbito adecuado, alejada de ignorantes que desconocen completamente lo que es la inteligencia artificial y que, con mentalidad tremendista, creen que hablamos de HAL, de Skynet o de robots Terminator que vienen del futuro para asesinar a Sarah Connor. Permitir que personas no preparadas o que no entienden el desarrollo de machine learning e AI se impliquen en la redacción de los principios éticos que gobernarán su futuro es un absurdo conceptual que, sin duda, nos llevaría a visiones restrictivas y a intentos inútiles de detener el futuro. Esto incluye, sin duda, a la política: que el pueblo te elija para supuestamente representarle no implica que estés preparado para opinar – o peor, para legislar – sobre todos los temas. Si no se sabe de un tema, es mejor y más productivo para todos que se ejerza la responsabilidad necesaria para reconocerlo, abstenerse y solicitar la implicación de quienes sí lo dominan.

No es lo mismo, indudablemente, llevar a cabo una reflexión sobre los principios éticos que deben regir el desarrollo de la inteligencia artificial en Google, uno de los principales actores en el tema, que la está integrando en absolutamente todos sus productos y que se ha caracterizado precisamente por llevar a cabo una ambiciosísima iniciativa de formación de la práctica totalidad de sus empleados en esta disciplina, que tratar de desarrollarla en un gobierno, en un organismo supranacional o en cualquier otro entorno político en el que el conocimiento del tema está entre lo nulo, lo superficial y lo directamente alarmista. Reflexiones de ese tipo se van a intentar hacer en todo tipo de foros, y lo que más me interesa de ellas no son sus resultados, sino el proceso por el cual se lleven a cabo y las consecuencias que se pretenda que puedan tener.

Plantear interrogantes sobre el futuro y tratar de evitar consecuencias potencialmente negativas o no deseadas es una cosa, que si se hace con el rigor y la disciplina que Google ha puesto en ello, puede ser interesante y provechoso. Perseguir fantasmas y prohibir cosas por si acaso en alguna esquina aparece Terminator entre resplandores y nubes de humo es otra muy diferente, y nos puede llevar a verdaderas tonterías e intentos de detener el progreso y la evolución natural de la humanidad. Cuidado con los miedos irracionales, la desinformación, y con sus primos, la demagogia y el populismo. En el desarrollo de principios razonables y con sentido sobre el desarrollo de algoritmos de inteligencia artificial se juega una parte importante de nuestro futuro. La inteligencia artificial es cuestión de principios, sí. Pero de principios bien hechos.

 

IMAGE: Eric Isselee - 123RF

El gobierno alemán encuentra a Volkswagen responsable de un nuevo escándalo de trucos utilizados para ocultar emisiones nocivas de óxidos de nitrógeno, esta vez asociado con los modelos de lujo de la marca Audi. La marca tendrá que lanzar una llamada para la retirada provisional y modificación de 24,000 vehículos de los modelos A7 y A8 construidos entre 2009 y 2013 y equipados con motores diesel V6 y V8, de los cuales aproximadamente la mitad fueron comercializados en Alemania.

El nuevo escándalo es la prueba de que la marca alemana es exactamente igual que el escorpión de la fábula, el que picó a la rana que lo trasladaba al otro lado del río aunque eso significaba la muerte de ambos, porque simplemente “estaba en su naturaleza”. Que alguien en su sano juicio se arriesgue, tras el que ha sido el mayor escándalo en la historia de la automoción que ha obligado a la marca a provisionar más de 22,000 millones de euros en multas y compensaciones, a volver a ser encontrado culpable de algo similar es tan profundamente alucinante, que desafía cualquier intento de racionalización mediante el sentido común. Hablamos de una marca que conscientemente diseñó sistemas específicamente pensados para ocultar unas emisiones superiores a las autorizadas, con el fin de ganar con ello unas prestaciones adicionales que hiciesen a sus vehículos más competitivos. El dinero por encima de todo, a costa de la sostenibilidad del planeta y de la salud de las personas.

Los vehículos afectados llevaban supuestamente la certificación de emisiones Euro-5, pero emitían más del doble del límite legal de óxidos de nitrógeno cuando el volante era girado más de 15º, una circunstancia que ocurre de manera habitual durante la conducción, pero no mientras se realizan los tests de emisiones. El truco había sido desarrollado para ocultar intencionadamente esas emisiones cuando los vehículos se encontraban en inspección. La marca tiene ahora hasta el día 15 de junio para buscar un sistema que permita modificar los vehículos vendidos para que pasen a cumplir las correspondientes normas de emisiones.

El nuevo escándalo desmiente a todos los que afirmaron en el caso anterior que se trataba de algún tipo de “guerra comercial” entre fabricantes de diversos países: el hecho de que una marca del grupo Volkswagen sea de nuevo la afectada y que, además, las acusaciones provengan precisamente del gobierno alemán, su país de origen, convierte aquellos comentarios en completamente absurdos e infundados. No existe una guerra comercial por las emisiones: simplemente existen marcas para las que la ética y la responsabilidad social corporativa es algo completamente prescindible. Marcas que tendrán que trabajar mucho, muchísimo, para quitarse la etiqueta de “nocivas”. Mucho me temo que es así de triste. Y que la marca siga siendo, tras el escándalo anterior, la que más vehículos vende en el mundo, y que esto ocurra precisamente al día siguiente de que Donald Trump decida que su país abandona el Acuerdo de París, aporta todavía más al nivel de estupidez de la raza humana…

 

POTUS retweeting Donald Trump protest against Nordstrom

Ayer, el presidente del país más poderoso del mundo cruzó de manera clara y patente una línea ética: utilizó su cuenta presidencial para atacar a una compañía por una decisión comercial. Si alguien quería conflictos de intereses, ya los tiene, y no podían venir empaquetados de manera más clara.

Que la cadena de grandes almacenes de lujo Nordstrom decida tener o no la línea de ropa de Ivanka Trump a la venta es una decisión estrictamente comercial. Tanto si la elimina como respuesta a la presión de una campaña de activismo, como si lo hace por sus escasas ventas o por la poca confianza en la originalidad de sus diseños, la decisión es una cuestión que atañe exclusivamente a los grandes almacenes, que deberán responder de ella ante sus clientes. Que un padre proteste en Twitter porque considera que esa decisión supone un maltrato a su hija podría llegar a ser comprensible, aunque parecería lógico pedir un mínimo de sentido de la responsabilidad si además de padre, resultas ser el presidente de los Estados Unidos.

Pero el problema del tweet que aparece sobre estas líneas no es que Donald J. Trump, padre de Ivanka Trump, proteste por el tratamiento de Nordstrom a su hija. El problema está una línea más arriba, cuando el propio Donald J. Trump decide utilizar su cuenta oficial como presidente de los Estados Unidos, @POTUS, específicamente propiedad del cargo y no suya personal, para retwittear su protesta. Al hacerlo, está poniendo el peso de su cargo en contra de una cadena de grandes almacenes, está reprochando una decisión comercial a una compañía desde la mismísima jefatura del estado. El problema no es que su hija Ivanka sea tratada justa o injustamente (Nordstrom elimina de manera habitual aquellas marcas que no generan las ventas esperadas), que sea una gran persona o que impulse a su padre a hacer las cosas bien, como dice el texto del tweet… todo eso es completamente irrelevante. El problema es que no se puede de ninguna manera utilizar un recurso del estado para una reclamación de carácter personal o empresarial. No se puede. Va contra las más elementales reglas de la ética.

La intensísima polarización que genera Trump ha llevado a que las acciones de la compañía suban un 4% en las horas inmediatamente posteriores al exabrupto del presidente, una prueba clara de la interferencia provocada sobre los procesos de toma de decisiones de una compañía privada. La compañía no se ha manifestado sobre el tema, y aunque estaría en su perfecto derecho de denunciar al presidente por prácticas injustas contra la competencia, no se espera que lo haga. Las consecuencias de una denuncia al presidente de los Estados Unidos son complejas, el proceso podría ser largo, y sin duda, se convertiría en un problema para la compañía teniendo en cuenta que un cierto porcentaje de la población norteamericana votó por Donald Trump.

Este caso marca todo un hito en el mal uso de las redes sociales en política. En realidad, sería equivalente a que el presidente de los Estados Unidos decidiese utilizar la cuenta de Twitter presidencial para hacer publicidad de una marca, para recomendar sus hoteles o para forzar a un gobierno extranjero a que aceptase unos términos de negociación sobre la construcción de uno de sus edificios. Cruzar esa línea genera un precedente verdaderamente malsano, algo que solo puede traer consecuencias negativas, como las tiene criticar y presionar a los jueces, hacerlos responsables de posibles futuros atentados, o pretender obligar a las mujeres a que “vistan como mujeres”. Y lo peor: le da exactamente igual. Es como un adolescente matón y maleducado que va a hacer en cada momento lo que le dé la real gana. Las reglas de la democracia, de la política o de la ética le dan exactamente igual. Buena suerte.

 

Volkswagen I.D.Como lleva haciendo ya algún tiempo en cada feria a la que acude, Volkswagen aprovechó un Paris Motor Show 2016 centrado especialmente en los vehículos eléctricos para presentar un nuevo concept car, el Volkswagen I.D., con aspecto completamente futurista, y pensado fundamentalmente para intentar hacer olvidar la asociación de la marca con los gravísimos escándalos sobre el trucaje de sus vehículos para engañar los test de emisiones del pasado año, que certificaron el radical y absoluto fracaso de sus políticas de responsabilidad social corporativa.

Sí, lo de Volkswagen fue muy grave. Las voces que surgieron pretendiendo que lo ocurrido era algún tipo de “práctica común” en la industria chocan con la terca realidad de un año después, en la que la marca alemana sigue siendo la única procesada, cargos criminales incluidos, en todo el mundo por haber fabricado automóviles que excedían hasta en cuarenta veces los límites de emisiones permitidos. Tras el escándalo, la marca afirmó que se centraría en el desarrollo de vehículos eléctricos, e incluso se dice que recibió presiones de la EPA estadounidense para que esos vehículos eléctricos fuesen fabricados en los Estados Unidos, como parte de la negociación en torno a las sanciones.

En agosto de este año, la marca comenzó a esparcir rumores con respecto a sus progresos en la propulsión eléctrica: un automóvil aún sin nombre preparado para un lanzamiento en 2018, con una autonomía de entre 400 y 600 km por carga, que según algunos, debería hacer que marcas pioneras como Tesla se echasen a temblar. Al tiempo, la marca presentó también sus planes para el desarrollo de una megafábrica de baterías en Europa, y algunos otros detalles más, como una unidad dedicada a reforzar la seguridad del software de los vehículos autónomos.

Ahora, en el Paris Motor Show, nos hemos encontrado con el ambicioso concept car de Volkswagen: eléctrico, autónomo y con un vídeo futurista en el que una chica es recogida por su coche y el volante se escamotea para pasar a conducción autónoma:

Muy bonito, sí. Pero ¿es suficiente un vídeo futurista y un concept car anunciado ya no para 2018, sino para 2020, para lavar la imagen de una marca como Volkswagen? Dada la absoluta ausencia de ética que reveló el escándalo, por mí la marca puede anunciar lo que buenamente quiera, que mientras no vea un producto real y un plan diseñado ya no para centrarse en vehículos eléctricos, sino para terminar con la producción de vehículos con motor de combustión interna, no pienso creerme absolutamente nada.

Si Volkswagen quiere hacernos olvidar lo que hizo, suponiendo que le haga falta, tendrá que hacer mucho más que presentar un concept car y un vídeo: tendrá que demostrar que sus concept cars y sus vídeos tienen visos de realidad, que son más que voluntariosos anuncios, y que están además pensados para sustituir completamente en un plazo razonablemente corto a los vehículos que caracterizaron su sucio pasado. Lo demás son movimientos de marketing. Y con el marketing, ya sabemos lo que Volkswagen es capaz de hacer: pretender convencernos de que “han desarrollado una actitud global para la sostenibilidad ecológica” y que plantan muchos arbolitos, mientras lanzaban coches que contaminaban cuarenta veces más de lo permitido. La página de ThinkBlue de la compañía sigue inalterada desde antes del escándalo, a pesar de haberse demostrado fehacientemente que sus supuestas “actitudes ecológicas” no eran más que un mal chiste. Aunque en realidad, es muy posible que la marca no necesite hacer gran cosa: vivimos en un mundo tan profundamente asqueroso e irresponsable, que miles de personas aprovechan que los vehículos de Volkswagen bajan de precio para convertir a la marca en líder en ventas, a pesar del escándalo de sus motores… a mí dame muchos caballos por poco dinero, y lo que salga por el tubo de escape es problema de otro. Posiblemente, el problema sea precisamente ese: que tenemos lo que nos merecemos como sociedad.