Los riesgos propios de los grandes modelos de lenguaje
Tamaño de los corpus, fluidez engañosa y concentración del poder: las críticas que han marcado el sector.
ObjetivoExplicar los principales riesgos que plantean los grandes modelos y las salvaguardas correspondientes.
En 2021, el artículo «On the Dangers of Stochastic Parrots» advierte contra la carrera por el tamaño. Sus autores señalan varios riesgos. Los corpus inmensos no pueden documentarse por completo y arrastran contenidos sesgados o tóxicos. Un texto fluido inspira confianza incluso cuando es falso. El coste de estos modelos concentra el poder en unos pocos actores.
- Fluidez engañosa: exigir las fuentes y verificar los hechos clave.
- Corpus opacos: preferir los proveedores que documentan sus datos y sus límites.
- Dependencia: conservar la posibilidad de cambiar de modelo y de ejecutar la IA en sus propios servidores.
Referencias
- Bender, Gebru, McMillan-Major, Shmitchell (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. Proceedings of ACM FAccT 2021, p. 610–623. doi.org/10.1145/3442188.3445922