Medir y corregir un sesgo
La equidad se mide, pero existen varias definiciones, a veces incompatibles entre sí.
ObjetivoDistinguir varias definiciones de la equidad y elegir la que conviene a una decisión concreta.
Decir que un sistema es equitativo exige precisar con respecto a quién y según qué criterio. ¿Hace falta la misma tasa de aceptación en cada grupo, la misma tasa de error o la misma fiabilidad de una puntuación sea cual sea el grupo? Los trabajos de referencia muestran que, por lo general, estos criterios no pueden cumplirse todos a la vez.
- Paridad de las decisiones: cada grupo recibe la misma proporción de respuestas positivas.
- Igualdad de los errores: los falsos positivos y los falsos negativos son igual de frecuentes en cada grupo.
- Calibración: una misma puntuación significa el mismo riesgo real, sea cual sea el grupo.
La elección es, por tanto, una decisión humana, ligada al contexto. En un cribado médico, pasar por alto un caso es más grave que una falsa alarma. En una sanción, es al revés.
Referencias
- Barocas, Hardt, Narayanan (2023). Fairness and Machine Learning: Limitations and Opportunities. MIT Press. fairmlbook.org/