Cuatro conductores de Uber han demandado a esta compañía ante los tribunales holandeses al considerar que la desactivación de su cuenta de la aplicación supone un despido improcedente. Lo peculiar de este supuesto es que la decisión adoptada por la plataforma se basa en el análisis del algoritmo empleado por tal compañía para identificar a aquellos de sus conductores que, aparentemente, se comportan de manera fraudulenta.
El funcionamiento de este sistema de detección del fraude viene detallado en la propia web de Uber. La compañía afirma que "mastermind" -que es así como se denomina al algoritmo- detecta actividades potencialmente ilícitas en una fracción de segundo, como pueden ser la incapacidad de pago del pasajero, el robo de cuentas, la colusión conductor/pasajero, etc.
En este caso, Uber canceló automáticamente las cuentas de conductor a los ahora demandantes, sin darles ninguna opción de presentar alegaciones ni más información que una serie de justificaciones genéricas relacionadas con un supuesto intento de fraude en su comportamiento y uso de la aplicación. Los argumentos que la empresa trasladó a los conductores afectados se referían a "viajes irregulares con intención fraudulenta", "la instalación y el uso de software que interfiere la aplicación", "un patrón continuo de uso inadecuado de las aplicaciones de Uber", y "actividad irregular repetida mientras usaba la aplicación Uber".
"Los afectados piden no ser objeto de una decisión basada únicamente en un tratamiento automatizado", señala Francisco Pérez Bes, socio de Derecho Digital de Ecix
Francisco Pérez Bes, Socio de Derecho Digital en Ecix, destaca que "los reclamantes fundamentan su alegato en una supuesta infracción del Reglamento General de Protección de Datos, que -salvo las excepciones expresamente previstas en la propia norma europea- reconoce el derecho de cualquier persona a no ser objeto de una decisión basada únicamente en un tratamiento automatizado, siempre y cuando produzca efectos jurídicos en él o le afecte significativamente de modo similar". Asimismo, prosigue el experto, esta protección legal alcanza a "la salvaguarda del derecho del interesado a obtener intervención humana durante el correspondiente proceso, a ser oído y a impugnar la decisión adoptada en base a lo que haya concluido el algoritmo, cosa que en el caso de los conductores de Uber no parece haberse producido".
Según fuentes cercanas al caso, Uber ha declarado que las cuentas de los cuatro conductores afectados fueron desactivadas tras una revisión por parte de personal humano, que concluyó la realidad de un intento de fraude en el comportamiento de los reclamantes.
"Cumplimos con lo exigido"
Sin embargo, los demandantes sostienen que su comportamiento cumplía con las políticas de la compañía, por lo que solicitan la reactivación de sus cuentas, además de una compensación económica por las pérdidas sufridas durante este tiempo, una explicación de cómo funciona el algoritmo de Uber, y una sanción económica de la compañía de 10.000 euros por cada día en que Uber no atienda a la orden judicial que le requiera cumplir con estos extremos.
Este asunto reabre de nuevo el debate sobre los aspectos legales y éticos en el uso de algoritmos, y en la toma de decisiones automatizadas, esto es, sin intervención humana, así como sobre los efectos que la dependencia en los sistemas de inteligencia artificial puede tener en los derechos y libertades de los ciudadanos.
