Medir e corrigir um enviesamento
A equidade mede-se, mas existem várias definições, por vezes incompatíveis entre si.
ObjetivoDistinguir várias definições de equidade e escolher a que se adequa a uma determinada decisão.
Dizer que um sistema é equitativo exige precisar para com quem e segundo que critério. Deve haver a mesma taxa de aceitação em cada grupo, a mesma taxa de erro, ou a mesma fiabilidade de uma pontuação qualquer que seja o grupo? Os trabalhos de referência mostram que, em geral, estes critérios não podem ser satisfeitos todos ao mesmo tempo.
- Paridade das decisões: cada grupo recebe a mesma proporção de respostas positivas.
- Igualdade dos erros: os falsos positivos e os falsos negativos são igualmente frequentes em cada grupo.
- Calibração: uma mesma pontuação significa o mesmo risco real, qualquer que seja o grupo.
A escolha é, portanto, uma decisão humana, ligada ao contexto. Num rastreio médico, falhar um caso é mais grave do que um falso alarme. Numa sanção, é o inverso.
Referências
- Barocas, Hardt, Narayanan (2023). Fairness and Machine Learning: Limitations and Opportunities. MIT Press. fairmlbook.org/