Discriminació algorítmica

Davant les discriminacions arran de les decisions automatitzades preses mitjançant sistemes algorítmics, la normativa antidiscriminatòria europea i la jurisprudència establerta fins ara, no semblen generar per si mateixes els mecanismes adequats per combatre-les. En aquest article repassem els tres eixos que presenten les principals limitacions per poder abastar aquest nou repte: una protecció excessivament basada en els atributs protegits; massa centrada en la dualitat discriminació directa o indirecta (que amb les noves eines causants de la discriminació poden veure's difuminades); i les dificultats a nivell probatori que pot tenir algú que ha patit discriminació algorítmica, com per exemple, trobar un grup amb qui comparar-se, o alguna persona o entitat a qui responsabilitzar de l'acció discriminatòria. Cal identificar les mancances i les formes de discriminació que escapen a la regulació actual per poder proposar mecanismes que realment serveixin en la lluita envers la discriminació.
Ante las discriminaciones a raíz de las decisiones automatizadas tomadas mediante sistemas algorítmicos, la normativa antidiscriminatoria europea y la jurisprudencia establecida hasta ahora, no parecen generar por sí mismas los mecanismos adecuados para combatirlas. En este artículo repasamos los tres ejes que presentan las principales limitaciones para abarcar este nuevo reto: una protección excesivamente basada en los atributos protegidos; demasiado centrada en la dualidad discriminación directa o indirecta (que con las nuevas herramientas causantes de la discriminación pueden verse difuminadas); y las dificultades a nivel probatorio que puede tener alguien que ha sufrido discriminación algorítmica, como por ejemplo, encontrar un grupo con el que compararse, o alguna persona o entidad a la que responsabilizar de la acción discriminatoria. Hay que identificar las carencias y formas de discriminación que escapan a la regulación actual para poder proponer mecanismos que realmente sirvan en la lucha hacia la discriminación.
European anti-discrimination legislation and the jurisprudence established so far, do not seem to generate the appropriate mechanisms to combat discrimination as a result of automated decisions made through algorithmic systems. In this article we review the three axes that present the main limitations to face this new challenge: a protection overly based on protected attributes; overly focused on the duality of direct or indirect discrimination (that with the new tools that cause discrimination can be blurred); and the difficulties that someone who has been discriminated against may have at the probationary level, such as finding a group with whom to compare themselves, or who is responsible for the discriminatory action. It is necessary to identify the shortcomings and forms of discrimination that escape the current regulation to be able to propose mechanisms that really serve to fight against discrimination.