| Sumario: | Imaginemos que Eric, un joven, ha sido condenado por un delito relacionado con pandillas: fue encontrado por la policía en el lugar de un robo cometido por sus amigos. El juez de sentencia ahora debe tomar una decisión. Sin saber si Eric representa un riesgo para el público, recurre a una evaluación de riesgos algorítmica: un conjunto de reglas, desarrolladas sobre la base de correlaciones entre las características individuales y la actividad criminal, que predice la probabilidad de reincidencia. Eric es un ciudadano concienzudo que nunca antes había tenido problemas con la ley. Sin embargo, se crió en hogares de acogida, en una zona con altas tasas de criminalidad, pobreza e inestabilidad residencial, hechos a los que el algoritmo atribuye una puntuación de alto riesgo. El juez recomienda una sentencia de la máxima duración posible, con supervisión posterior a la liberación ampliada. ¿Por qué esto importa? La respuesta que se da con mayor frecuencia es que importa debido a la desigualdad, captada a través del lenguaje de "prejuicios" o "discriminación": el efecto del uso de algoritmos puede ser exacerbar diferencias injustificadas entre las personas, sobre la base de consideraciones como la raza, el sexo o circunstancias socioeconómicas. Utilizando un conjunto diverso de estudios de casos y haciendo recomendaciones políticas claras a lo largo del camino, Justicia Artificial analiza las razones por las que podríamos tener que objetar el uso de algoritmos estadísticos para asignar la carga de las decisiones políticas. Sostiene que estas razones se extienden más allá de las preocupaciones igualitarias. Es importante destacar que incluyen razones que surgen del valor de la elección individual: de tener la oportunidad de afectar lo que nos sucede eligiendo apropiadamente y estando equipados para ejercer bien esas elecciones. El libro explora las razones sustanciales que contribuyen a una imagen de lo que está en juego para los individuos cuando utilizamos algoritmos estadísticos para tomar decisiones sobre cómo tratar a los demás, y hace recomendaciones políticas sólidas sobre el alcance y la naturaleza de la interacción entre humanos y algoritmos. Justicia artificial es un texto convincente y accesible, que ofrece mucho a una audiencia amplia e interdisciplinaria de académicos, estudiantes y aquellos interesados en aprender sobre justicia algorítmica.
|
|---|
