Lección 8 de 10 · 7 min
Los sesgos
Sabe de dónde vienen los sesgos de un modelo y cómo detectarlos en un texto que se refiere a personas.
Un modelo aprende con inmensas cantidades de textos escritos por personas. También aprende sus desequilibrios. Puede asociar una profesión a un género, describir una región a través de tópicos o conocer mejor las situaciones más presentes en sus datos. No es una intención. Es un reflejo, que la fluidez del texto hace difícil de ver.
- Las ofertas de empleo y las descripciones de puestos.
- Las evaluaciones, las valoraciones y las recomendaciones sobre una persona.
- Los ejemplos y los personajes de un material de formación.
- Los textos sobre grupos, países o culturas que usted conoce poco.
Menos eficaz
Redacta una oferta de empleo para un puesto de jefe de equipo en logística.
Más eficaz
Redacta una oferta de empleo para un puesto de jefe o jefa de equipo en logística. Describe las tareas y las competencias esperadas en lugar de un perfil de personalidad. Señala cualquier fórmula que pueda desanimar a una parte de las candidatas y los candidatos.
Describe el puesto en lugar de la persona imaginada, y pide al modelo que señale sus propias fórmulas de riesgo.
Estos sesgos se han medido a gran escala. Unos sistemas comerciales de reconocimiento facial se equivocaban mucho más a menudo con las mujeres de piel oscura que con los hombres de piel clara. Los modelos de lenguaje heredan de la misma manera los desequilibrios de sus textos de entrenamiento.
Referencias
- Bender, Gebru, McMillan-Major, Shmitchell (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. Proceedings of ACM FAccT 2021, p. 610–623. doi.org/10.1145/3442188.3445922
- Buolamwini, Gebru (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Conference on Fairness, Accountability and Transparency, PMLR 81, p. 77–91. proceedings.mlr.press/v81/buolamwini18a.html